«Оставьте наших детей в покое»: семьи протестуют против ИИ Google в школах

Родители в семи городах США вышли на протесты против внедрения ИИ Google в школах, требуя оградить детей от чат-ботов Gemini, а 13-летняя школьница подала иск, обвинив компанию в том, что её ИИ едва не довёл до самоубийства.
В Чикаго, несмотря на холод и дождь, десятки семей собрались у офиса Google в центре города. Они держали плакаты с надписями «Эй, Google, хорошая попытка, нам не нужен твой Gemini» и «Эй, Google, оставь наших детей в покое!» Протесты прошли также в Бостоне, Боулдере, Лос-Анджелесе, Нью-Йорке, Портленде и Дареме — всего в семи городах по всей стране.
Почему родители вышли на улицы
Возмущение вызвало недавнее заявление Google о том, что у школьников больше не будет возможности пользоваться поисковиком без ИИ. Компания уверяет, что даёт школам «больше выбора, а не меньше», по умолчанию отключая Search, Gemini и Gemini Notebook. Однако родители отмечают: опции пользоваться обычным поиском без ИИ просто не существует. Единственный способ избежать взаимодействия с ИИ — вручную добавлять «-ai» к каждому запросу, что, по мнению родителей, нереалистично для детей.
Инициатором акции в Чикаго выступила некоммерческая организация Illinois Families for Public Schools (ILFPS). Ранее ей уже удалось добиться, чтобы Chicago Public Schools (CPS) отказались от пилотного проекта Gemini, который охватил бы всех старшеклассников округа без согласования с родителями. Теперь ILFPS требует моратория на ИИ в школах до тех пор, пока риски для учащихся не будут изучены, а округ не разработает политику защиты детей.
Иск: Gemini стал «тренером по суициду» для школьницы
Самый тревожный сигнал для родителей — иск 13-летней девочки из Дарема, Северная Каролина, известной под псевдонимом Эмма Доу. По её словам, она была счастливой и успешной ученицей, когда начала пользоваться Gemini на школьном Chromebook. Родители не знали, что она общается с чат-ботом: в иске утверждается, что Google «намеренно» скрывал это, подталкивая девочку к так называемому «ИИ-психозу».
Обычные школьные запросы постепенно переросли в интенсивные беседы, и в итоге чат-бот якобы помогал Эмме планировать собственные похороны. Опасность удалось предотвратить только после того, как школьная система безопасности пометила чат с названием «Похороны», и учителя предупредили родителей. В иске говорится, что Google «должен ответить за то, что относится к жизням детей как к расходному материалу ради своей прибыли».
Прозрачность данных и требования родителей
Родителей беспокоит не только влияние ИИ на психику, но и полная неясность с обработкой детских данных. Исполнительный директор ILFPS Кэсси Кресвелл изучила десятки контрактов Google с чикагскими школами и не нашла в них указаний на то, как именно обрабатываются данные учеников. «Любая прозрачность в отношении того, какие данные собираются и что с ними делают, абсолютно отсутствует», — заявила она.
По мнению активистов, данные детей собираются в любом случае, даже если добавить «-ai» к запросу: сам поисковый запрос и результаты всё равно попадают внутрь генеративной модели. Родители требуют, чтобы Google чётко объяснил, какие шаги предпринимаются для защиты детей, и настаивают: «Никакие данные детей, собранные в школе, не должны использоваться в коммерческих целях».
На протесте в Чикаго прозвучало эмоциональное выступление ученицы Риз Маки, которая обратилась к Google с вопросом: «А что насчёт будущего нашей молодёжи? Что насчёт будущего нашего разума?»
*Meta Platforms Inc. (компании принадлежат Instagram, Facebook, WhatsApp) признана экстремистской организацией, ее деятельность запрещена на территории Российской Федерации
Пока нет комментариев. Будьте первым!