Сооснователь Microsoft Билл Гейтс предупредил о потенциально катастрофических последствиях развития искусственного интеллекта. По его словам, современные ИИ-системы уже обладают достаточной мощностью, чтобы при определённых обстоятельствах запустить цепочку событий, способную привести к гибели миллиарда человек.
ИИ определённо достаточно мощный, чтобы запустить события, которые могут привести к миллиарду смертей.
Гейтс подчеркнул, что особенно опасным считает сочетание современных ИИ-инструментов с людьми, намеренными использовать их во вред. По его словам, человечество ещё не сталкивалось с настолько мощным сочетанием технологий и потенциально злонамеренных пользователей.
При этом бизнесмен не утверждает, что искусственный интеллект неизбежно приведёт к подобной катастрофе. Его слова касаются возможного сценария злоупотребления технологией и потенциального масштаба последствий.
Гейтс также считает, что технологическим компаниям недостаточно самостоятельно устанавливать правила безопасности. По его мнению, к регулированию искусственного интеллекта должны подключаться законодатели и правоохранительные органы. Дополнительный контроль создаст определённую нагрузку на индустрию, однако не должен существенно замедлить её развитие.
Заявление прозвучало на фоне продолжающихся дискуссий внутри ИИ-индустрии о рисках дальнейшего развития наиболее мощных моделей. Руководители и исследователи ряда компаний в последние месяцы вновь призывают уделять больше внимания безопасности и возможным последствиям появления всё более автономных ИИ-систем.