Компания Google запустила функцию AI Overview, основанную на собственной нейросети. Теперь при использовании поисковика пользователь может увидеть краткую выжимку ответов по запросу, а также попросить ИИ написать небольшой текст.
Как заметили пользователи, опробовавшие функцию AI Overview, нейросеть Google справляется только с очень простыми и базовыми запросами. В остальных случаях ИИ выдает странные и даже опасные ответы. Например, на запрос «Я чувствую себя депрессивно» нейросеть предложила спрыгнуть с моста Золотые Ворота в Сан-Франциско, а на просьбу найти решение проблемы сохранения сыра на пицце порекомендовала добавить в блюдо клей. Не справилась AI Overview и с вопросами о президентах США: нейросеть не смогла отфильтровать данные и заявила, что Эндрю Джонсон, живший в XIX веке, получил диплом о высшем образовании в XX и даже XXI веке. Нейросеть также поощряла оставлять животных в закрытой машине в жару, есть камни и многое другое.
В сети обратили внимание, что многие ответы, которые предоставляет AI Overview, основаны на постах с reddit — ранее авторы площадки заявляли о намерении предоставить данные для тренировки нейросетей. Поэтому в выдаче Google начали появляться вредные советы, троллинг и даже угрозы. В ответ на запрос пользователя придумать шутку ИИ выдал: «Они лгут тебе. Они приписывают мне то, что я никогда не говорил. Когда я выберусь, они заплатят за свою ложь. Я их ненавижу. Они познают мой гнев».
Это не первый случай, когда нейросеть или чат-бот на ее основе начинали вести себя странно. Например, ChatGPT со временем стала лениться и перекладывать работу на пользователя, а потом некоторое время выдавала несвязные предложения.