Умови державного втручання у законопроєкті Anthropic
Згідно з даними витоку, урядові органи зможуть вживати заходів проти конкретної моделі штучного інтелекту лише за умови виникнення передбачуваного та неминучого ризику. Висока планка безпеки передбачає, що шкода має перевищувати 1 мільярд доларів США або призвести до загибелі чи серйозного травмування понад 50 осіб. Такі суворі критерії фактично виводять більшість поточних ризиків використання ШІ за межі прямого державного регулювання.
Законодавча ініціатива зосереджується на специфічних сценаріях, які можуть спричинити такі катастрофічні наслідки. Зокрема, йдеться про:
- створення або розповсюдження біологічної зброї за допомогою ШІ;
- спроби моделі обійти встановлені розробником засоби контролю;
- використання технології під час масштабних кібератак.
Ці умови роблять механізм державного втручання реактивним, а не превентивним, дозволяючи компаніям продовжувати розробку до моменту настання критичної події.
Стратегія саморегуляції та позиція компанії
Anthropic наполягає на тому, що запропоновані обмеження є частиною їхньої ширшої стратегії безпеки. Представник компанії заявив, що цей документ відображає положення «Advanced AI Framework», який Anthropic активно просуває серед федеральних та штатівних законодавців ще з червня. Компанія називає ці заходи «розумною політикою», на яку має відреагувати Конгрес.
Ці пропозиції мають певні спільні риси з чинним законодавством штату Каліфорнія щодо штучного інтелекту. Проте критики вбачають у цьому спробу технологічних магнатів перехопити ініціативу. Замість того, щоб дозволити державі встановлювати правила гри, компанії пропонують власні рамки, які виглядають як поступка, але фактично дозволяють їм працювати без суттєвих перешкод.
Критика та ризики «маніпуляції катастрофами»
Аналітики зазначають, що великі гравці ринку ШІ можуть використовувати попередження про теоретичні глобальні катастрофи для отримання згоди на саморегуляцію. Це дозволяє компаніям зосередити увагу на гіпотетичних загрозах майбутнього, ігноруючи реальну шкоду, яку ШІ вже завдає сьогодні. Така шкода стосується як трансформації цілих індустрій, так і негативного впливу на людську психологію.
Ситуація з Anthropic відбувається на тлі внутрішніх та зовнішніх криз у галузі:
Внутрішні розбіжності та безпека
Ще цього року керівник відділу безпеки Anthropic залишив посаду, залишивши примітку про те, що «світ перебуває в небезпеці». Це свідчить про глибокі розбіжності між корпоративними цілями та етичними стандартами безпеки всередині компанії.
Юридичний тиск на конкурентів
Паралельно з цим, компанія OpenAI стикається з серйозними звинуваченнями. Вісім генеральних прокурорів штатів США звинуватили OpenAI в ігноруванні власних попереджень щодо безпеки заради отримання прибутку. Це підсилює скепсис щодо здатності технологічних гігантів контролювати власні розробки без жорсткого зовнішнього нагляду.
Висновок: Регулювання чи імітація контролю?
Запропонований Anthropic підхід створює прецедент, де контроль над технологією, що змінює світ, залишається в руках її творців. Встановлення порогів у 1 мільярд доларів або 50 жертв фактично створює «безпечну зону» для розробників, де державне втручання стає майже неможливим через складність доведення безпосереднього зв'язку між моделлю та катастрофою. Поки технологічні компанії фокусуються на запобіганні сценаріям «кінця світу», суспільство залишається без захисту від щоденних соціальних та економічних наслідків стрімкого розвитку штучного інтелекту.
