Комсомольская правда: KP.RU: Джейкоб Коксон и Джо Бентон предупреждают, что технологии, разрабатываемые Anthropic и OpenAI, могут привести к уничтожению человечества уже в ближайшие четыре года из-за недостаточности текущих механизмов безопасности.

Создатели ИИ: Уже скоро искусственный интеллект может стать опасен для всего человечества Бывший исследователь Anthropic (которая разрабатывает языковую модель Claude) Джейкоб Коксон и специалист по безопасности из этой же компании Джо Бентон на днях уволились и практически в один голос вещают о том, что развитие передовых ИИ-систем создаёт для людей риски беспрецедентного масштаба. Они прямо говорят, что технологии, которые разрабатывают Anthropic и OpenAI, могут привести к уничтожению человечества уже в ближайшие четыре года. Поясняют - нынешние механизмы безопасности не соответствуют скорости развития искусственного интеллекта, если эту динамику не остановить, то она "может опередить" способность человека "понимать и контролировать эти системы". У них уже скоро могут возникнуть цели и стремления, расходящиеся с намерениями людей-контролёров. Одним из главных рисков оба называют сценарий, когда ИИ станет достаточно хорош, чтобы создавать собственных более мощных ИИ-преемников уже без участия человека (RSI - рекурсивное самоулучшение, в сети ходят слухи, что Google уже удалось этого достичь). При этом Дарио Амодеи - глава компании Anthropic сегодня заявил: через 6—12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Правда, кивает в сторону конкурентов из OpenAI. Но идею бывших сотрудников поддерживает: необходимо замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним. Страшно? Да! Нет!