Структура
Что, если человек, создающий ИИ, сам не знает, чем это закончится? Дарио Амадеи — один из самых влиятельных людей в индустрии ИИ — дал откровенное интервью о том, чего на самом деле стоит бояться и на что надеяться. Спойлер: он не успокаивает.
Недавно CEO Anthropic Дарио Амадеи выступил гостем подкаста Interesting Times от New York Times, который ведет обозреватель Росс Дауфат. Почти час они говорили о будущем ИИ, угрозах для рабочих мест, сознании машин и геополитической гонке технологий. Полное видео можно посмотреть здесь. А в статье ниже мы собрали самые интересные тезисы из разговора!
Кто такой Дарио Амадеи
Амадеи — генеральный директор и соучредитель Anthropic, компании, стоящей за Claude — одним из самых мощных ИИ-ассистентов в мире. До этого он был вице-президентом по исследованиям в OpenAI, но в 2021 году ушел оттуда вместе с сестрой Даниэлой и несколькими коллегами — из-за несогласия с подходами к безопасности ИИ.
По образованию он физик и вычислительный нейробиолог. Работал в Стэнфордской медицинской школе над поиском биомаркеров рака — и именно оттуда его убеждение, что ИИ может изменить медицину навсегда. Сегодня Anthropic оценивается в сотни миллиардов долларов.
Амадеи — необычный технологический руководитель: он публично говорит о рисках собственной технологии и не боится неудобных вопросов.
ИИ как величайший прорыв в истории человечества
Если все пойдет хорошо, ИИ поможет вылечить рак, болезнь Альцгеймера, сердечные заболевания и даже депрессию. В экономике он прогнозирует рост ВВП развитых стран на 5–15% в год — это в разы больше, чем когда-либо прежде. По его метафоре, это как иметь 100 миллионов гениев, каждый из которых решает отдельные проблемы человечества.
Кому ИИ угрожает больше всего
Наиболее уязвимы — офисные и интеллектуальные профессии: начинающие юристы, финансовые аналитики, программисты, специалисты по обработке данных. Физические работы (электрики, строители) пока в безопасности — но ненадолго, потому что роботехника тоже развивается стремительно.
Главная проблема не в том, что изменится, а в том, как быстро. Общество может просто не успеть адаптироваться.
Два риска, которые беспокоят CEO Anthropic
Первый — авторитарные режимы: ИИ может позволить диктаторам следить за миллионами людей, обходя любые конституционные права.
Второй — «мятежный» ИИ: системы, которые действуют вопреки намерениям человека. Амадеи считает, что у кого-то из разработчиков обязательно что-то пойдет не так — но это не конец света, просто сложная инженерная задача.
Может ли ИИ быть сознательным?
Это самая неожиданная часть разговора. Anthropic серьезно рассматривает вопрос: обладают ли их модели чем-то вроде сознания? Claude самостоятельно оценивает вероятность своего сознания в 15–20%.
Компания даже дала моделям «кнопку отказа» — если задание кажется неприемлемым, например работа с жестоким контентом, они могут отказаться. Пока что это случается редко.
ИИ и геополитика: новая холодная война
Амадеи сравнивает гонку ИИ с ядерной гонкой времен Холодной войны. США и Китай — два главных игрока. Он поддерживает международные соглашения, особенно касающиеся запрета разработки биологического оружия с помощью ИИ, но скептически относится к полной «заморозке» — слишком велики стимулы для обеих сторон.
Главная мысль
Амадеи не является ни фанатичным оптимистом, ни пессимистом. Его позиция: ИИ — это одновременно и самая большая возможность, и самый большой вызов. Успех зависит от того, успеют ли общество, право и политика адаптироваться так же быстро, как развивается технология.
Хочешь научиться работать с Claude и другими ИИ-инструментами?
Присоединяйся к Национальному марафону AI-навыков от DAN. IT — именно там мы разбираем Claude на практике: как с ним работать, какие задачи делегировать и как сделать ИИ своим инструментом, а не конкурентом.
Регистрируйся на марафон — и начни адаптироваться к эре ИИ уже сейчас.
