Google презентував інструмент для накладання ШІ-зображень на карти Earth, але відкликав його менш ніж через два дні через масивне зловживання користувачами, які генерували фейкові фото російських танків у Києві, руйнування пам’яток та мігрантів.
У четвер Google запустив ШІ-функцію в Google Earth, яка дозволяла накладати згенеровані комп’ютером зображення на супутникові карти. Теоретично це мало допомогти візуалізувати історичне минуле чи плани будівництва, але користувачі почали виробляти дезінформацію: створювали фото російських танків у Києві, зруйнованої Ейфелевої вежі, ядерних станцій в Ірані та хвиль мігрантів на американськи кордоні.
Дослідник штучного інтелекту Хенк ван Есс продемонстрував, як функція може використовуватися для маніпуляцій: бажаючи зробити удар масштабнішим, приховати чи показати ушкодження об’єктів, створити фейки для отримання резонансу в соцмережах.
Google пообіцяв додати захисні механізми, але виявилося, що їхній чат-бот Gemini і зовнішні інструменти верифікації не завжди розпізнають фейкові зображення. Супутникові знімки дотепер вважаються надійним джерелом для журналістів та розслідувачів, але поширення ШІ-контенту загрожує цьому статусу.
Що це означає для вас: Google відкликав функцію менш ніж за 48 годин після запуску через небезпеку масового створення дезінформації та неможливості повністю заблокувати зловживання
За матеріалами Хмарочос