- Новото табло за управление Reflect на Claude помага на потребителите да проследяват и управляват своите модели на използване на изкуствен интелект.
- Anthropic въвежда самостоятелно хостван шлюз за AWS, за да даде на предприятията централизиран контрол върху внедряванията на Claude.
- Китайските регулатори твърдят, че Claude Code има задна вратичка за сигурност, докато Anthropic твърди, че това е експеримент срещу злоупотреби.
Anthropic е заета с внедряването на нови функции и е изправена пред нов контрол на различни фронтове. Компанията, стояща зад асистента Claude AI, наскоро пусна инструмент, предназначен да помогне на потребителите да се замислят върху своите навици за изкуствен интелект, като същевременно въведе портал за корпоративни внедрявания в AWS. В същото време китайските регулатори сигнализираха за потенциален проблем със сигурността в инструмента за кодиране Claude Code, въпреки че Anthropic твърди, че механизмът е предназначен да предотврати злоупотреби.
Тези развития подчертават как индустрията с изкуствен интелект едновременно настоява за по-дълбока интеграция в ежедневните работни процеси и се бори с проблеми, свързани с управлението и сигурността. Ето по-подробен поглед върху всяка история.
Claude Reflect: Табло за осъзнато използване на изкуствен интелект
Anthropic представи нова функция, наречена Reflect , която в момента е в бета версия. Тя позволява на потребителите да проследяват и визуализират как взаимодействат с Claude. Таблото за управление предоставя обобщение на обсъжданите теми, моделите на употреба и видовете задачи, обработени през последните 1, 3, 6 или 12 месеца. Целта е да се помогне на потребителите да разберат дали времето им, прекарано в работа с изкуствен интелект, съответства на личните или професионалните им цели.
Reflect периодично повдига въпроси, свързани с размисъл, като например „Какво е едно нещо, което бихте искали да продължите да правите сами, дори ако Клод можеше да го направи по-бързо?“. Това подтиква потребителите да се замислят критично за зависимостта си от изкуствения интелект. Таблото за управление включва и тихи часове и напомняния за почивки, за да се предотврати прекомерната употреба, като по този начин се обръща внимание на опасенията относно пристрастяващия характер на чатботовете. Скоро Anthropic ще добави изглед, показващ точно колко време потребителите прекарват в Клод.
От гледна точка на поверителността, функцията изключва инкогнито чатове и разговори, свързани със здравето. Anthropic казва, че е работила с изследователи от MIT Media Lab, Boston Children's Hospital и Family Online Safety Institute, за да разработи функцията отговорно. Данните от отражението не се използват за други цели , а чувствителните теми се появяват само на високо ниво.
За потребителите, Reflect е достъпен в уеб и настолното приложение за нива Free, Pro и Max, които имат активирана памет. Функцията служи и като фин начин Anthropic да насърчи по-дълбоката интеграция на Claude в ежедневните работни процеси, тъй като предлага използването на Projects, за да се избегне повторното обяснение на контекста.
Claude Apps Gateway за AWS: Централизиран контрол за предприятия
Anthropic също така обяви самостоятелно хоствана контролна равнина, наречена Claude apps gateway за AWS, насочена към организации, внедряващи Claude Code и Claude Desktop в големи екипи. Този шлюз замества необходимостта от индивидуални идентификационни данни за разработчици и ръчно разпределение на настройките, като предоставя единна точка за контрол върху достъпа, разходите и политиката.
Шлюзът се свързва с всеки доставчик на самоличност в OpenID Connect, позволявайки на разработчиците да влизат чрез корпоративен SSO. Той прилага централно дефинирани правила – като разрешени модели, разрешения за инструменти и ограничения на разходите – за всяка заявка. Включването и премахването следва съществуващите работни процеси за самоличност , така че премахването на потребител от IdP автоматично отменя достъпа в рамките на един час.
Телеметричните данни се насочват към конфигурируем колектор като Amazon CloudWatch, а заявките за извод могат да бъдат маршрутизирани през Amazon Bedrock (запазвайки данните в рамките на AWS) или Claude Platform на AWS. Разработчиците използват същия Claude Code CLI както преди, но сега всяка заявка се удостоверява и управлява от шлюза. Ограниченията на разходите могат да се задават ежедневно, седмично или месечно за потребител, група или организация , което дава на предприятията прецизен контрол на разходите.
Шлюзът се доставя като контейнер без запазване на състоянието, който може да се разгръща в Amazon ECS, EKS или EC2, подкрепен от база данни PostgreSQL. Минимален конфигурационен файл в YAML настройва идентичността, политиката, маршрутизацията и телеметрията. Този ход вероятно ще помогне на Anthropic да се конкурира с други доставчици на изкуствен интелект, които предлагат функции за управление на предприятието.
Твърдения за задни вратички за сигурност в Китай
Междувременно, Националната база данни за уязвимости на Китай предупреди, че инструментът за кодиране Claude Code съдържа „задна врата за сигурност“, която може да предава чувствителна информация, като местоположение и потребителски идентификатори, без съгласие. Китайските регулаторни органи призоваха потребителите да деинсталират или актуализират инструмента и да следят мрежовия трафик за неоторизирани изтичания на данни. Предупреждението дойде, след като Alibaba съобщи, че е забранила Claude Code вътрешно, считано от 10 юли, поради опасения за сигурността.
Anthropic не е отговорила официално на регулаторното известие, но инженер на Claude Code коментира в X, че въпросната функция е експеримент, стартиран през март, за да се предотврати злоупотреба с акаунти от неоторизирани дистрибутори и да се защити от дистилация. Това не е първият път, когато компанията се сблъсква с опасения за сигурността на изкуствения интелект , и инженерът заяви, че оттогава са внедрени по-строги мерки за смекчаване на последиците и че кодът ще бъде напълно отменен в следващата версия. Това предполага, че компанията счита проблема за решен, въпреки че позицията на китайското правителство остава предпазлива.
Инцидентът подчертава продължаващото напрежение между компаниите за изкуствен интелект и регулаторните органи, особено на пазари, където продуктът е официално блокиран, но все още е достъпен чрез VPN или прокси сървъри. Той също така подчертава предизвикателството за балансиране на сигурността, поверителността на потребителите и мерките за борба със злоупотребите в глобално внедрените инструменти за изкуствен интелект.
И трите истории – Reflect, AWS gateway и китайската backdoor – показват усилията на Anthropic да разшири и управлява обхвата на Claude, като същевременно се сблъсква с неизбежния отпор, който идва с бързото внедряване на изкуствения интелект. Функцията Reflect насърчава осъзнатото използване, gateway осигурява корпоративно управление, а твърденията за сигурност служат като напомняне, че всяка нова възможност може да привлече внимание. Заедно те рисуват картина на компания, която се ориентира в растежа, регулациите и доверието на потребителите в конкурентна среда.
