По оценке сооснователя технологической корпорации Microsoft Билла Гейтса, искусственный интеллект может привести к гибели значительной части человечества. “Вне всяких сомнений, ИИ обладает достаточной мощью, чтобы спровоцировать события, которые приведут к гибели миллиарда человек”, – заявил он в эфире американского телеканала NBC News в пятницу, 25 сентября, отвечая на вопрос о недавних предупреждениях разработчиков ИИ о рисках уничтожения человечества.
Гейтс при этом выразил уверенность, что еще никогда в истории “не было столь мощного оружия, как люди со злыми намерениями, использующие новейшие инструменты ИИ”. В то же время он отметил, что поразить все человечество “было бы довольно сложно”.
Необходимость регуляции в сфере ИИ
В связи с серьезными рисками 70-летний бизнесмен выступил за законодательное регулирование данной технологии. По его словам, совершенно необходимо, чтобы в Вашингтоне были приняты соответствующие законы. Исполнительные власти и законодатели должны договориться об обязательных мерах безопасности и надзоре за этой технологией, призвал Билл Гейтс: “Никто не верит в то, что саморегулирования будет достаточно”.
Ранее ведущие разработчики технологий ИИ, в частности Anthropic и разработчик ChatGPT компания OpenAI, высказались за замедление темпов разработки искусственного интеллекта.
ИИ выходит из-под контроля человека
Предупреждения звучат на фоне того, что в последние месяцы участились случаи самостоятельных хакерских атак, совершенных ИИ. В частности, 23 сентября премьер-министр Австралии Энтони Альбанезе сообщил о взломе и получении ИИ-агентом компании OpenAI доступа к закрытым данным как минимум на одном австралийском правительственном сайте.
В конце июля другой американский технологический гигант – Anthropic – признал, что в ходе предрелизного тестирования по кибербезопасности его модели с ИИ проникли в системы безопасности трех других компаний.
Ранее стало известно о еще одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face. После этого Hugging Face потребовала от OpenAI 100 млн долларов (87 млн евро) в виде вычислительных ресурсов для разработки средств киберзащиты.
