Microsoft создаёт команду для разработки суперинтеллекта, но обещает оставить контроль над технологией за людьми
Глава структуры Microsoft по разработке искусственного интеллекта Мустафа Сулейман, который возглавит новый проект, заявил в интервью изданию Semafor, что «гонка любой ценой» недопустима и может стать «суицидальной стратегией». По его словам, компании нужен «человеко-ориентированный суперинтеллект», пусть даже ради этого потребуется пожертвовать частью мощности моделей.
По мере роста возможностей ИИ способность людей понимать и контролировать модели отстаёт, даже крупнейшие модели иногда ведут себя непредсказуемо, разработчики порой не могут объяснить почему.
В новую команду перейдут ключевые лидеры Microsoft AI, включая главного учёного Карена Симоняна. Сам Сулейман продолжит руководить Microsoft AI, влияя на продукты Copilot, Edge, Bing и Microsoft Advertising.
Сулейман подчёркивает: люди должны управлять ИИ на понятном языке, а не в векторной математике, на которой работают современные модели. Он также признает, что впервые в истории человечеству придётся сознательно ограничивать возможности технологий ради безопасности.
Эксперты отмечают, что непредсказуемость ИИ — не только риск, но и бизнес-проблема: это мешает внедрению технологий в критически важные процессы, где всё равно нужен человек-надсмотрщик.
В то же время есть те, кто не согласен с подходом Microsoft. В частности, «радикальные технооптимисты» из круга Andreessen Horowitz считают, что любое замедление развития ИИ недопустимо, так как человеческие жизни могут быть спасены будущими технологиями.
