Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта

Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и больше тысячи экспертов подписали открытое письмо с призывом приостановить разработку продвинутого искусственного интеллекта (ИИ). Текст письма опубликовал Институт будущего жизни (Future of Life Institute).

Авторы письма призвали разработчиков искусственного интеллекта немедленно приостановить минимум на полгода обучение систем более мощных, чем GPT-4 от компании OpenAI. Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. По их мнению, если обучение не получится остановить быстро, то власти «должны вмешаться и ввести мораторий».

Авторы письма считают, что даже создатели «мощных цифровых разумов» не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком.

«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.

Как отмечает Reuters, исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо.

Письмо прокомментировали в Кремле. Там сообщили, что Россия продолжит работу по развитию искусственного интеллекта. «Что касается точки зрения тех, кто говорит об опасности ИИ, вы знаете, что любое лекарство при неправильном использовании превращается в яд», — сказал пресс-секретарь президента РФ Дмитрий Песков.