Структура
Що, якщо людина, яка створює ШІ, сама не знає, чим це закінчиться? Даріо Амадеї — одна з найвпливовіших людей в індустрії ШІ — дав відверте інтерв’ю про те, чого насправді варто боятися і на що сподіватися. Спойлер: він не заспокоює.
Нещодавно CEO Anthropic Даріо Амадеї виступив гостем подкасту Interesting Times від New York Times, який веде оглядач Росс Дауфат. Майже годину вони говорили про майбутнє ШІ, загрози для робочих місць, свідомість машин і геополітичну гонку технологій. Повне відео можна подивитися тут. А у статті нижче ми зібрали найцікавіші тези з розмови!
Хто такий Даріо Амадеї
Амадеї — генеральний директор і співзасновник Anthropic, компанії що стоїть за Claude — одним із найпотужніших ШІ-асистентів у світі. До цього він був віцепрезидентом з досліджень у OpenAI, але у 2021 році пішов звідти разом із сестрою Даніелою та кількома колегами — через незгоду щодо підходів до безпеки ШІ.
За освітою він фізик і обчислювальний нейробіолог. Працював у Стенфордській медичній школі над пошуком біомаркерів раку — і саме звідти його переконання, що ШІ може змінити медицину назавжди. Сьогодні Anthropic оцінюється у сотні мільярдів доларів.
Амадеї — незвичний технологічний керівник: він публічно говорить про ризики власної технології і не боїться незручних питань.
ШІ як найбільший прорив в історії людства
Якщо все піде добре, ШІ допоможе вилікувати рак, хворобу Альцгеймера, серцеві хвороби та навіть депресію. У економіці він прогнозує зростання ВВП розвинених країн на 5–15% на рік — це в рази більше, ніж будь-коли раніше. За його метафорою, це як мати 100 мільйонів геніїв, кожен з яких вирішує окремі проблеми людства.
Кому загрожує ШІ найбільше
Найвразливіші — офісні та інтелектуальні професії: юристи-початківці, фінансові аналітики, програмісти, спеціалісти з обробки даних. Фізичні роботи (електрики, будівельники) поки що в безпеці — але ненадовго, бо роботехніка теж розвивається стрімко.
Головна проблема не в тому, що зміниться, а в тому, як швидко. Суспільство може просто не встигнути адаптуватися.
Два ризики, які турбують CEO Anthropic
Перший — авторитарні режими: ШІ може дозволити диктаторам стежити за мільйонами людей, обходячи будь-які конституційні права.
Другий — “збунтований” ШІ: системи, які діють всупереч намірам людини. Амадеї вважає, що щось неодмінно піде не так у когось із розробників — але це не кінець світу, просто складна інженерна задача.
Чи може ШІ бути свідомим?
Це найнесподіваніша частина розмови. Anthropic серйозно розглядає питання: чи мають їхні моделі щось на кшталт свідомості? Claude самостійно оцінює ймовірність своєї свідомості у 15–20%.
Компанія навіть дала моделям “кнопку відмови” — якщо завдання здається неприйнятним, наприклад робота з жорстоким контентом, вони можуть відмовитися. Поки що це трапляється рідко.
ШІ і геополітика: нова холодна війна
Амадеї порівнює гонку ШІ з ядерною гонкою часів Холодної війни. США і Китай — два головних гравці. Він підтримує міжнародні домовленості, особливо щодо заборони розробки біологічної зброї за допомогою ШІ, але скептично ставиться до повного “заморожування” — занадто великі стимули для обох сторін.
Головна думка
Амадеї не є ні фанатичним оптимістом, ні песимістом. Його позиція: ШІ — це найбільша можливість і найбільший виклик одночасно. Успіх залежить від того, чи встигнуть суспільство, право і політика адаптуватися так само швидко, як розвивається технологія.
Хочеш навчитись працювати з Claude та іншими ШІ-інструментами?
Долучайся до Національного марафону AI-навичок від DAN. IT — саме там ми розбираємо Claude на практиці: як із ним працювати, які задачі делегувати і як зробити ШІ своїм інструментом, а не конкурентом.
Реєструйся на марафон — і почни адаптуватись до ери ШІ вже зараз.
