- Калифорнийски изследователи използваха Claude Mythos Preview на Anthropic, за да създадат работещ експлойт срещу M5 Memory Integrity Enforcement на Apple за по-малко от седмица.
- Атаката свързва две грешки и усъвършенствани техники, за да предизвика повреда в паметта на ядрото на macOS и да получи достъп до ограничени системни области.
- Експертите описват това като първия публичен експлойт, който успешно оцелява след новите хардуерно подпомагани MIE защити на Apple на M5 чипове.
- Случаят подхранва дебат относно контролирания достъп до мощни модели с изкуствен интелект, които могат както да засилят, така и да подкопаят киберсигурността.
През последните дни един малоизвестен експеримент в областта на киберсигурността се превърна в основна тема за разговор в общността по сигурността: предварителна версия на усъвършенствания модел на изкуствен интелект на Anthropic, Клод Митос, е признат за пробива на една от най-новите хардуерни защити на Apple, базирани на чиповете M5. Епизодът се разглежда като конкретен пример за това как авангардният изкуствен интелект може едновременно да открие критични недостатъци и потенциално да промени баланса между нападателите и защитниците.
Според изследователи от базираната в Пало Алто стартъп компания в Калифорния, Модел за преглед на Mythos изигра ключова поддържаща роля в създаването на работещ експлойт, който компрометира най-новата защита Memory Integrity Enforcement (MIE) на Apple на Mac-ове, базирани на M5. Въпреки че атаката все още изискваше задълбочен човешки опит, екипът казва, че изкуственият интелект драстично е ускорил откриването на експлоатиращи грешки, повдигайки нови въпроси за това кой трябва да има право да използва такива системи и при какви условия.
Как Клод Митос е помогнал за нарушаване на защитите M5 на Apple
В основата на историята е Calif, фирма за киберсигурност, базирана в технологичния център на Калифорния Пало Алто, която си е поставила за цел да оцени колко добре Apple... нов MIE механизъм на M5 чипове може да издържи на съвременни техники за експлойтиране. В хода на това изследване екипът използва Claude Mythos Preview на Anthropic като вид изкуствен интелект, за да анализира кодовите пътища, да разсъждава за потенциални слабости и да приоритизира обещаващите повърхности за атака.
Калифорнийски изследователи съобщават, че в крайна сметка са успели да комбинират две различни софтуерни грешки с няколко специализирани техники за хакерство да постигнат повреда на паметта на ниво ядро на macOS, работещ с хардуер M5. Тази повреда им позволи да достигнат до части от системата, които обикновено са забранени, като ефективно заобиколят някои от най-модерните хардуерно подпомагани защити на Apple.
Това, което отличава този случай, е, че получената експлоатация изглежда, по думите, цитирани в множество доклади, първата публично известна атака за повреда на паметта на ядрото на macOS който оцелява след MIE защитите на Apple върху M5 чиповете. За защитен механизъм, който Apple рекламира като голям напредък след години инвестиции, бързото материализиране на публична експлойт привлече вниманието на индустрията.
Източници, включително The Wall Street Journal и издания, фокусирани върху Mac, подчертаха, че експлойтът не разчита на екзотични хардуерни повреди или трикове за физически достъп. Вместо това, той свързва логически недостатъци, които, след като бъдат идентифицирани, могат да бъдат превърнати в постоянен път за атака, способен да неутрализира защитите на MIE на засегнатите системи.
Самата Калифорния описа проекта като тест за това какво се случва, когато Висококачествените инструменти за изкуствен интелект са съчетани с опитни разработчици на експлойти, а не автоматизиран хакерски сценарий с едно кликване. Въпреки това, скоростта и сложността на резултата предизвикаха тревоги за това колко бързо биха могли да се разпространят подобни възможности, ако не бъдат строго контролирани.
Какво представлява Memory Integrity Enforcement (защита на интегритета на паметта) на чипа M5?
Apple представи Прилагане на целостта на паметта като водеща функция за сигурност за своята линия чипове M5, предназначена да защити устройствата срещу цели категории атаки за повреда на паметта. Идеята е ясна, но амбициозна: да се използва специализирана хардуерна поддръжка за наблюдение и ограничаване на начина, по който се използва паметта, което значително затруднява атаките срещу отвличане на ниско ниво на изпълнение на код.
Според анализа на Калифорния, Apple е прекарала приблизително пет години в разработването на MIE от концепция до пускане на пазара на продукт, с инвестиция, която вероятно е достигнала милиарди долари. Компанията позиционира MIE като стъпка към промяна за... хардуерно подпомагана безопасност на паметта, чиято цел е да се унищожат дългогодишни техники за експлойтиране, използвани срещу предишни поколения iOS и macOS устройства.
Преди изследванията на Калифорния, MIE е била много успешна на практика. Стартъп компанията твърди, че всяка публично известна верига за експлойти Насочването към текущи iOS системи беше нарушено от MIE, включително нашумели комплекти като наскоро изтеклите пакети Coruna и Darksword. С други думи, MIE се възприемаше като основна пречка за нападателите, разчитащи на класически модели на повреда на паметта.
На този фон, появата на публична експлойт за повреда на паметта на ядрото, която може да работи въпреки защитите на MIE върху хардуера M5, се разглежда като значително техническо и символично развитие. Това не означава, че MIE се е провалил като цяло, но показва, че Решителни изследователи все още могат да измислят жизнеспособни пътища за атака, особено когато са подкрепени от мощни аналитични инструменти като Claude Mythos.
Техническите подробности остават строго пазени; Calif и Anthropic все още не са публикували пълна документация за веригата от експлойти, като подчертават, че чакат, докато Apple напълно се справи с проблема. Коментарите им обаче показват, че макар MIE значително да повдига летвата, тя не е неразрушим щит и бъдещите мерки за смекчаване на уязвимостите ще трябва да приемат, че Откриване на уязвимости, ускорено от изкуствен интелект е част от пейзажа на заплахите.
Хронология: от откриване на грешка до работеща експлойт за по-малко от седмица
Един от най-поразителните елементи в описанието на Калифорния е темпото на разработка. Фирмата е определила сравнително точен график, показващ, че целият експлойт – от първоначалното идентифициране на грешката до надеждно работещо доказателство за концепцията – е осъществен за по-малко от седем дни, скорост, която дори закоравелите специалисти по сигурността намират за забележителна.
Както е описано от екипа, процесът е започнал, когато изследователят Брус Данг забеляза първите съответни грешки на 25 април. В рамките на няколко дни специалистът по сигурността Дион Блазакис се присъедини към усилията на 27 април, като предостави допълнителна експертиза, за да оформи развиващата се стратегия за атака и да разбере по-добре как MIE реагира на ранните опити за експлоатация.
Малко след това, инженерът Джош Мейн се съсредоточи върху изграждането на необходимите инструменти да проучи, тества и усъвършенства пътищата за експлойт, предложени както от човешките изследователи, така и от модела Mythos. До 1 май, само дни след първоначалното откритие, Калифорния твърди, че е разполагала с напълно функциониращ експлойт на ядрото, способен да заобиколи MIE на целеви системи, базирани на M5.
Изследователите подчертават, че това бързо преобразуване не е единствено резултат от автоматизацията. Вместо това те описват динамичен работен процес, при който... Прегледът на Mythos разкри обещаващи модели на уязвимости, които човешки експерти след това валидираха, усъвършенстваха и обединиха в съгласуван експлойт. Тясната връзка между генерираните от изкуствен интелект хипотези и експертния анализ изглежда е компресирала това, което иначе би отнело седмици или месеци, до броени дни.
Калифорнийците определиха постижението като ранна, но показателна демонстрация на „това, което се случва, когато машинният интелект и човешкият опит се слеят“ в областта на офанзивната сигурност. Появяването на експлойт на ядрото срещу това, което те считат за най-стабилните защити на Apple „за една седмица“ е, по думите им, знак, че това сдвояване вероятно ще се превърне в мощна сила – такава, за която защитниците ще трябва да отчитат в бъдеще.
Ролята на Клод Митос: мощна, но не напълно автономна
Централно място в тази история заема Anthropic's Преглед на Клод Митос, модел, който не е пуснат за широката публика именно заради напредналите си възможности за анализ и експлоатация на софтуерни уязвимости. Вместо това достъпът е ограничен до затворена група големи технологични фирми, финансови институции и проверени изследователски организации в рамките на инициативата Project Glasswing на Anthropic.
Калифорния многократно подчертаваше, че системата с изкуствен интелект е допринесла значително за всеки етап от разработването на експлойта. Според стартъпа, Mythos е демонстрирал способност бързо да разпознава кога новопоявилите се грешки се вписват в добре разбрани класове експлойтии да предложат начини, по които тези слабости могат да бъдат свързани или манипулирани. Тази сила в разпознаването на модели позволи на екипа да пропусне големи количества ръчен метод на проба-грешка.
Компанията описа Mythos с език, който подчертава както неговата сила, така и неговата универсалност: след като моделът се е научил да атакува определена категория проблеми със сигурността, може да обобщи тези знания за голямо разнообразие от подобни цели. Това означава, че същите концептуални техники, които работят върху един софтуер, биха могли да бъдат прехвърлени, с корекции, към напълно различни системи.
Въпреки това, калифорнийските изследователи внимателно подчертават, че човешката преценка остана централнаMIE на M5 чиповете е сравнително нов слой за смекчаване на риска и части от поведението му при активна атака все още не бяха напълно картографирани, дори вътрешно в Apple. В резултат на това, разбирането как да се заобиколят или заобиколят тези защити изискваше опитни разработчици на експлойти да интерпретират предложенията на ИИ, да ги тестват срещу реален хардуер и да извършват итерации въз основа на фина обратна връзка от сривове, лог файлове и системно поведение.
Екипът е положил всички усилия, за да опровергае идеята, че Mythos е „генератор на експлойти с натискане на бутон“. Вместо това, те го представят като изключително способен асистент, който усилва човешките способности – особено като съкращава времето, необходимо за преминаване от откриване на грешки до практическа употребаВъпреки това, фактът, че такъв инструмент дори съществува и може да бъде толкова ефективен в експертни ръце, подхранва широк дебат относно контрола на достъпа и отговорното му внедряване.
Реакцията на индустрията и отговорът на Apple
Откритието е привлякло значителен интерес от целия технологичен свят, както заради техническата сложност на експлойта, така и заради начина, по който е изграден. Медийни издания като The Wall Street Journal очертаха случая като забележителна промяна в офанзивните възможности за киберсигурност, като изкуственият интелект се превръща от теоретичен проблем в конкретен инструмент за осъществяване на високотехнологични атаки.
От страна на Apple, публичните коментари остават предпазливи. В изявление, цитирано от WSJ, представител на Apple се облегна на стандартната позиция на компанията, че сигурността на потребителите е основен приоритет и че всички докладвани уязвимости са щателно разследвани. Освен това, компанията не е предоставила подробни коментари относно конкретната експлойт уязвимост в Калифорния или как тя може да промени бъдещите версии на MIE.
Има обаче намеци, че Apple вече е започнала да приема констатациите сериозно. Наблюдателите са забелязали препратки и към двете Калифорнийски и антропни изследвания в бележките към изданието за macOS Tahoe 26.5, актуализация, издадена наскоро в понеделник. Това беше интерпретирано като знак, че поне някои мерки за смекчаване на уязвимостта са в ход, въпреки че нито Калифорния, нито Apple са потвърдили точно кои аспекти на експлойта, ако има такива, са напълно отстранени.
Калифорния, от своя страна, подчерта, че задържа пълната техническа документация, докато Apple „окончателно не елиминира вектора на атака“. Фирмата избра да разкрийте уязвимостта лично в централата на Apple в Калифорния, вместо да разчитат на стандартните канали за подаване на сигнали за грешки, позовавайки се на желанието си да избегнат изгубването в потопа от сигнали, които големите доставчици получават – особено около събития като Pwn2Own, където координираното разкриване на информация може лесно да стане хаотично.
Този сравнително директен подход на разкриване лице в лице предполага, че всички страни осъзнават чувствителността на експлойта, който не само е насочен към най-новата чип архитектура на Apple, но и показва нарастващата роля на изкуствения интелект в разкриването на подобни недостатъци. Докато не се появят повече подробности, голяма част от по-широката общност е принудена да чете между редовете на кратки публични изявления и оскъдни технически намеци.
Защо Anthropic ограничи достъпа до Claude Mythos
Решението на Антропик да запази Клод Митос извън ръцете на широката публика предшества епизода между Калифорния и Apple, но този инцидент се разглежда като потвърждение на тези предпазливи инстинкти. По време на вътрешни тестове и външни оценки, компанията е наблюдавала, че Mythos може автономно да идентифицира и в някои сценарии да помогне за използването на софтуерни уязвимости на ниво, надхвърлящо всяка преди това публична система с изкуствен интелект.
В светлината на тези открития, Anthropic избра строго контролирано освобождаване. В рамките на инициативата, понякога наричана Проект GlasswingMythos е достъпен само за избрани партньори – големи технологични компании, банки и кратък списък от изследователски организации – които са съгласни да работят при строги насоки за употреба. Целта е да се използват силните страни на модела за защитна сигурност и изследвания, като същевременно се намали рискът той да бъде злоупотребен от опортюнистични нападатели.
Тази стратегия не е потушила напълно опасенията. Някои наблюдатели в индустрията твърдят, че дори ограниченият достъп до такъв инструмент би могъл да ускори динамиката на „надпревара във въоръжаването“, при която организациите с привилегирован достъп могат бързо да развият авангардни технологии. офанзивни способности, което потенциално дестабилизира по-широката екосистема. Други пък възразяват, че е по-добре способните защитници да проучат и разберат тези техники сега, вместо да чакат по-малко съвестните участници да ги наваксат.
Дебатът се усложнява от съобщенията, че Mythos вече е постигнал впечатляващи резултати в чисто защитни контексти. Например, се твърди, че Mozilla е наблюдавала модела, идентифициращ стотици потенциални уязвимости във Firefox по време на вътрешни тестове – 271 проблема в един цитиран случай. Подобни открития показват, че същите характеристики, които правят Mythos мощен за разработване на експлойти, го правят и необичайно мощен съюзник за втвърдяване на софтуера.
Anthropic не се е ангажирала публично с никакъв график за по-широк достъп до Mythos, а събития като експлойта M5 вероятно ще засилят аргументите за запазване или дори затягане на настоящите ограничения. Засега моделът остава вид специализиран инструмент, използван в няколко среди за сигурност с високи залози, където неговият двоен характер на употреба е изрично признат.
Изкуствен интелект в киберсигурността: нарастващ нож с две остриета
Случаят с експлойта в Калифорния бързо се превърна в отправна точка в по-широкия разговор за Ролята на изкуствения интелект в киберсигурносттаОт една страна, способността на инструменти като Mythos бързо да анализират код, да откриват фини модели на грешки и да предлагат стратегии за атака или защита, би могла драстично да подобри скоростта, с която защитниците откриват и отстраняват недостатъци. От друга страна, същите възможности могат да съкратят цикъла на разработка за сложни експлойти, особено когато се използват от висококвалифицирани екипи.
Специалистите по сигурност отдавна се тревожат за бъдеще, в което системите с изкуствен интелект биха могли да поемат голяма част от работния процес в офанзивата, от разузнаване до разработване на експлойти и странично придвижване. Епизодът с M5 все още не представлява пълна автоматизация, но предлага представа как изглежда, когато... Изкуственият интелект се превръща в неразделен, високоефективен компонент на реална атакуваща верига, дори в ръцете на отговорни изследователи.
Много хора в тази област очакват, че експлоатацията, подпомагана от изкуствен интелект, ще се превърне все по-често в норма в горния край на спектъра на заплахите. Добре финансираните нападатели, независимо дали са престъпни групировки или подкрепяни от държавата участници, вероятно ще изследват или ще изградят свои собствени аналози на модели като Mythos, използвайки ги за пресяване на масивни кодови бази и откриване на слаби места, които биха били непрактични за хората да открият сами.
В същото време защитниците гледат на този инцидент като на зов за събуждане. Ако нападението може да бъде ускорено до тази степен, тогава пайплайни, практики за преглед на код и процеси за управление на уязвимости може да се наложи да бъде преосмислено, за да се поддържа темпото. Някои организации вече експериментират с инструменти за одит, подпомогнати от изкуствен интелект, надявайки се да използват подобни техники за предотвратяване на атаки, като първо откриват и отстраняват уязвимости.
Историята на Калифорния и Apple по този начин се озовава насред един развиващ се пейзаж, където изкуственият интелект вече не е абстрактен бъдещ проблем, а активен играч в сферата на сигурността. Начинът, по който компаниите ще изберат да внедрят, ограничат или регулират подобни модели през следващите години, вероятно ще оформи не само отделните инциденти, но и цялостната траектория на дигиталния риск.
Взети заедно, експлойтът срещу M5 Memory Integrity Enforcement на Apple, централната роля, която играят Преглед на Клод Митос...и контролираният, но противоречив начин, по който Anthropic обработва достъпа до модела, сочат в една и съща посока: усъвършенстваният изкуствен интелект става тясно преплетен с механиката на съвременната киберсигурност. Този конкретен случай показва, че когато най-съвременните езикови модели си сътрудничат с опитни човешки изследователи, те могат да разкрият и операционализират сериозни недостатъци на хардуерно ниво в удивително кратки срокове – нововъзникваща реалност, с която както доставчиците, така и защитниците ще трябва да се съобразяват, докато проектират следващото поколение защити.
