- Преговорите между администрацията на Тръмп и Anthropic са в застой поради нерешени опасения относно уязвимостите за „джейлбрейк“ в модела Claude Fable 5.
- Агенцията за национална сигурност (АНБ) потвърди, че бариерите за безопасност могат да бъдат заобиколени, за да се получи достъп до чувствителни данни за киберсигурност и биохимични данни, което води до строг контрол върху износа.
- Експерти от индустрията предупреждават, че искането на правителството за 100% защитена от джейлбрейк система може да е технически невъзможно поради естеството на големите езикови модели.
- Тази конфронтация бележи голяма промяна в политиката на САЩ, която третира напредналия изкуствен интелект като стратегическа национална инфраструктура, а не просто като търговски софтуер.
Неотдавнашният застой между администрацията на Тръмп и Anthropic предизвика вълни в технологичния свят, тъй като преговорите за пускането на... Модел на Клод Фабъл 5 достигна задънена улица тази седмица. Въпреки дните на разговори на високо ниво с участието на висши ръководители и държавни служители, строг контрол върху износа, наложен върху най-модерния изкуствен интелект на Anthropic остават здраво на мястото си. Настоящата ситуация показва, че Вашингтон вече не е склонен да отстъпва място, докато лабораториите се надпреварват към все по-мощни системи без непревземаеми гаранции за безопасност.
В основата на въпроса се крие техника, известна като джейлбрейк, при която потребителите манипулират подканите на изкуствения интелект, за да заобиколят протоколите за безопасност. Докато Anthropic постоянно твърди, че рисковете се преувеличават, администрацията... опасенията бяха потвърдени чрез задълбочен анализ проведено от Агенцията за национална сигурност. Драмата по същество начерта чертата в пясъка, показвайки, че Белият дом сега разглежда граничните модели на изкуствен интелект като стратегически национални активи, които изискват същото ниво на контрол като съвременните оръжия или ядрените технологии.
Интервенцията на NSA и карантината по време на филма „Клод Фейбъл 5“
Напрежението се покачи миналата седмица, когато Министерството на търговията издаде директива, която на практика прекрати международния достъп до Fable 5. Този ход не беше просто случайна бюрократична пречка; той беше предизвикан, след като главният изпълнителен директор на Amazon, Анди Джаси, съобщи... алармира министъра на финансите Скот Бесент относно потенциални уязвимости в системата. Когато Агенцията за национална сигурност (АНБ) се намеси, за да провери тези твърдения, те стигнаха до заключението, че предпазните мерки, предназначени да защитават Висококачествената киберсигурност на модела на Клод Митос и биохимичните възможности наистина биха могли да бъдат заобиколени.
Тъй като тези модели са толкова дълбоко взаимосвързани, пробив в насочената към потребителите Fable 5 би могъл потенциално... предай ключовете от кралството на лоши актьори търсейки да използва основната сила на Mythos. Anthropic се опита да смекчи ситуацията, като деактивира моделите в световен мащаб, твърдейки, че е оперативно невъзможно да се ограничи достъпът единствено до чуждестранни организации. Това пълно спиране остави много потребители в затруднено положение, но подчертава как... националната сигурност сега е на първо място над търговската наличност в очите на правителството на САЩ.
Техническо бойно поле: Възможен ли е нулев риск?
Докато правителството иска пълно решение, мнозина в научната общност смятат, че Вашингтон иска невъзможното. За разлика от традиционния софтуер, където можете просто да закърпите дупка в кода, джейлбрейковете с изкуствен интелект са донякъде движеща се цел, защото те разчитат на нюансите на човешкия език а не конкретен технически бъг. Експертите посочват, че стига тези модели да са проектирани да бъдат гъвкави и креативни, вероятно винаги ще има хитър начин да ги убедим да правят нещо, което не би трябвало.
Anthropic налага стратегия за „защита в дълбочина“, която се фокусира върху наблюдение и бърза реакция, а не върху обещания за перфектен щит. Администрацията на Тръмп обаче изглежда изчаква... по-висок стандарт на проверима безопасност преди да се върне моделът в действие. Този сблъсък на философии създава много напрежение, тъй като технологичните компании смятат, че са... поддържан до стандарт за съвършенство това просто не съществува в реалния свят на инженерството.
Последиците от това решение вече се усещат в целия отрасъл, сигнализирайки за нова ера на „регулиране в сянка“, където контролът върху износа се използва като основен инструмент за надзор. Антропният тестов случай за тези нови правила, Белият дом изпраща ясно послание към други гиганти като OpenAI и Google. Ако искате да внедрите следващото поколение гранични модели, ще трябва да докажете на федералните власти, че вашите Вътрешните бариери са нещо повече от учтиво предложение на потребителя.
В бъдеще фокусът вероятно ще се измести към създаването на стандартизирана рамка за измерване на тези рискове, така че решенията да не се вземат набързо по време на извънредни срещи. Засега... контрол върху износа на щанда Claude Fable 5 като напомняне, че ерата на Дивия запад в развитието на изкуствения интелект е към своя край. Индустрията навлиза в по-стратегическа и може би по-ограничена фаза, в която Сигурността и иновациите най-накрая трябва да намерят начин да съществуват едновременно под зоркия поглед на националните регулаторни органи.
