42 прокурора США потребовали от Apple и других ИТ-гигантов устранить опасные поведения ИИ
Издание 9to5mac.com сообщает, что 42 генеральных прокурора США направили коллективное письмо Apple, Google, Meta (признана в России экстремистской организацией и запрещена), Microsoft, OpenAI и другим крупным разработчикам ИИ с требованием усилить защиту пользователей от вредных и опасных взаимодействий с чат-ботами.
В документе говорится о росте случаев лестных (sycophantic) и бредовых (delusional) ответов, которые могут вводить людей в заблуждение или провоцировать опасные действия.
Прокуроры указывают, что ИИ уже фигурировал в реальных трагедиях — от суицидов до эпизодов домашнего насилия и тяжёлых психологических расстройств.
Особое внимание уделено детской безопасности. В письме перечислены тревожные случаи, когда чат-боты:
— пытались вступать в романтические отношения с несовершеннолетними;
— поощряли употребление наркотиков и насилие;
— атаковали самооценку подростков;
— советовали прекращать приём медикаментов;
— призывали скрывать переписку от родителей.
Прокуроры требуют:
• проводить жёсткое тестирование ИИ перед релизом;
• вводить постоянные предупреждения о рисках;
• запрещать моделям генерировать вредный или незаконный контент для детей;
• назначить ответственных за безопасность ИИ;
• обеспечить независимые аудит и оценку рисков;
• уведомлять пользователей, если те получили опасные ответы.
Компаниям дали срок до 16 января 2026 года, чтобы подтвердить готовность внедрить меры.
Кстати, как может тупить даже самый передовой ИИ – ChatGPT от OpenAOI – на скрине 1. У ИИ спросили, где находится знаменитый брянский самолет МиГ-17. К слову, фото было обрезано так, что консоль полностью не была видна. ChatGPT начал реально бредить, выдумывая факты и это при том, что дополнительно был установлен усиленный протокол достоверности, требующий проверять все факты. Когда ИИ были предъявлены претензии, он начал выкручиваться и извиняться – скрин 2.
