Microsoft создаёт команду для разработки суперинтеллекта, но обещает оставить контроль над технологией за людьми
Microsoft создаёт команду для разработки суперинтеллекта, но обещает оставить контроль над технологией за людьми
Глава структуры Microsoft по разработке искусственного интеллекта Мустафа Сулейман, который возглавит новый проект, заявил в интервью изданию Semafor, что гонка любой ценой недопустима и может стать суицидальной стратегией. По его словам, компании нужен человеко-ориентированный суперинтеллект, пусть даже ради этого потребуется пожертвовать частью мощности моделей.
По мере роста возможностей ИИ способность людей понимать и контролировать модели отстаёт, даже крупнейшие модели иногда ведут себя непредсказуемо, разработчики порой не могут объяснить почему.
В новую команду перейдут ключевые лидеры Microsoft AI, включая главного учёного Карена Симоняна. Сам Сулейман продолжит руководить Microsoft AI, влияя на продукты Copilot, Edge, Bing и Microsoft Advertising.
Сулейман подчёркивает: люди должны управлять ИИ на понятном языке, а не в векторной математике, на которой работают современные модели. Он также признает, что впервые в истории человечеству придётся сознательно ограничивать возможности технологий ради безопасности.
Эксперты отмечают, что непредсказуемость ИИ не только риск, но и бизнес-проблема: это мешает внедрению технологий в критически важные процессы, где всё равно нужен человек-надсмотрщик.
В то же время есть те, кто не согласен с подходом Microsoft. В частности, радикальные технооптимисты из круга Andreessen Horowitz считают, что любое замедление развития ИИ недопустимо, так как человеческие жизни могут быть спасены будущими технологиями.