42 прокурора США потребовали от Apple и других ИТ-гигантов устранить опасные поведения ИИ

42 прокурора США потребовали от Apple и других ИТ-гигантов устранить опасные поведения ИИ

Издание 9to5mac.com сообщает, что 42 генеральных прокурора США направили коллективное письмо Apple, Google, Meta (признана в России экстремистской организацией и запрещена), Microsoft, OpenAI и другим крупным разработчикам ИИ с требованием усилить защиту пользователей от вредных и опасных взаимодействий с чат-ботами.

В документе говорится о росте случаев лестных (sycophantic) и бредовых (delusional) ответов, которые могут вводить людей в заблуждение или провоцировать опасные действия.

Прокуроры указывают, что ИИ уже фигурировал в реальных трагедиях от суицидов до эпизодов домашнего насилия и тяжёлых психологических расстройств.

Особое внимание уделено детской безопасности. В письме перечислены тревожные случаи, когда чат-боты:

пытались вступать в романтические отношения с несовершеннолетними;

поощряли употребление наркотиков и насилие;

атаковали самооценку подростков;

советовали прекращать приём медикаментов;

призывали скрывать переписку от родителей.

Прокуроры требуют:

проводить жёсткое тестирование ИИ перед релизом;

вводить постоянные предупреждения о рисках;

запрещать моделям генерировать вредный или незаконный контент для детей;

назначить ответственных за безопасность ИИ;

обеспечить независимые аудит и оценку рисков;

уведомлять пользователей, если те получили опасные ответы.

Компаниям дали срок до 16 января 2026 года, чтобы подтвердить готовность внедрить меры.

Кстати, как может тупить даже самый передовой ИИ ChatGPT от OpenAOI на скрине 1. У ИИ спросили, где находится знаменитый брянский самолет МиГ-17. К слову, фото было обрезано так, что консоль полностью не была видна. ChatGPT начал реально бредить, выдумывая факты и это при том, что дополнительно был установлен усиленный протокол достоверности, требующий проверять все факты. Когда ИИ были предъявлены претензии, он начал выкручиваться и извиняться скрин 2.