Коротко
За переказом Politico, компанія пропонує незалежні оцінки та федеральні критерії катастрофічного ризику. Повідомлення не підтверджує ухвалення цих правил.
Anthropic представила законодавцям США пропозицію щодо обмеження випуску або використання моделей штучного інтелекту з катастрофічним рівнем ризику. Про це 21 жовтня повідомляє РБК-Україна з посиланням на Politico. Йдеться про запропонований компанією механізм, а не про чинний закон.
За викладом документа, підставою для втручання мав би бути передбачуваний і неминучий ризик. Серед пропонованих критеріїв — потенційна загибель або тяжкі травми понад 50 людей чи майнова шкода більш як на мільярд доларів. Також згадані загрози біологічної зброї, масштабних кібератак і втрати контролю розробників над моделлю. Ці пороги стосуються можливих наслідків, а не вже встановлених жертв чи збитків.
Безпеку пропонується доручити незалежним оцінювачам, акредитованим Міністерством торгівлі США. За проєктом, лабораторії могли б оплачувати їхні послуги, якщо винагорода не залежить від висновку. Про виявлений катастрофічний ризик оцінювачі мали б повідомляти відомство протягом 72 годин.
Після такого повідомлення Міністерство торгівлі мало б звернутися до федерального суду у Вашингтоні. За переказом видання, проєкт не дозволяв би федеральним установам чи посадовцям самостійно блокувати розробку або випуск моделей.
Пропозиція також передбачає єдиний федеральний стандарт замість окремих законів штатів. У повідомленні наведено побоювання щодо послаблення суворіших норм штатів та можливого конфлікту інтересів при оплаті оцінювачів лабораторіями. Ухвалення документа чи дату набрання ним чинності джерело не підтверджує.