- Kloda jaunais Reflect informācijas panelis palīdz lietotājiem izsekot un pārvaldīt savus mākslīgā intelekta lietošanas modeļus.
- Anthropic ievieš pašmitinātu vārteju AWS, lai uzņēmumiem sniegtu centralizētu kontroli pār Claude izvietojumiem.
- Ķīnas regulatori apgalvo, ka Claude Code ir drošības aizmugurējās durvis, savukārt Anthropic apgalvo, ka tas bija pret ļaunprātīgu izmantošanu vērsts eksperiments.
Anthropic ir bijis aktīvs jaunu funkciju ieviešanas procesā un saskāries ar jaunu pārbaudi dažādās jomās. Uzņēmums, kas izstrādāja Claude AI palīgu, nesen laida klajā rīku, kas paredzēts, lai palīdzētu lietotājiem pārdomāt savus AI paradumus, vienlaikus ieviešot arī vārteju uzņēmumu izvietošanai AWS platformā. Vienlaikus Ķīnas regulatori ir norādījuši uz iespējamu drošības problēmu Claude Code kodēšanas rīkā, lai gan Anthropic apgalvo, ka mehānisms bija paredzēts ļaunprātīgas izmantošanas novēršanai.
Šīs norises izceļ to, kā mākslīgā intelekta nozare vienlaikus cenšas panākt dziļāku integrāciju ikdienas darbplūsmās un cīnās ar pārvaldības un drošības problēmām. Šeit ir sniegts detalizēts katra stāsta apskats.
Claude Reflect: Informācijas panelis apzinātai mākslīgā intelekta lietošanai
Uzņēmums “Anthropic” ir ieviesis jaunu funkciju ar nosaukumu “Reflect” (pagaidām beta versijā), kas ļauj lietotājiem izsekot un vizualizēt savu mijiedarbību ar Klodu. Informācijas panelī ir sniegts kopsavilkums par apspriestajām tēmām, lietošanas modeļiem un uzdevumu veidiem, kas veikti pēdējo 1, 3, 6 vai 12 mēnešu laikā. Mērķis ir palīdzēt lietotājiem saprast, vai viņu mākslīgajam intelektam veltītais laiks atbilst viņu personīgajiem vai profesionālajiem mērķiem.
Reflect periodiski uzdod pārdomu jautājumus, piemēram, “Kas ir viena lieta, ko jūs vēlētos turpināt darīt pats, pat ja Klods to varētu izdarīt ātrāk?” Tas mudina lietotājus kritiski pārdomāt savu atkarību no mākslīgā intelekta. Informācijas panelī ir iekļautas arī klusās stundas un pārtraukumu atgādinājumi, lai novērstu pārmērīgu lietošanu, tādējādi novēršot bažas par tērzēšanas robotu atkarību izraisošo raksturu. Drīzumā Anthropic pievienos skatu, kurā precīzi tiks parādīts, cik daudz laika lietotāji pavada, izmantojot Klodu.
No privātuma viedokļa šī funkcija izslēdz inkognito tērzēšanu un ar veselību saistītas sarunas. Anthropic apgalvo, ka ir sadarbojies ar MIT Media Lab, Bostonas Bērnu slimnīcas un Ģimenes tiešsaistes drošības institūta pētniekiem, lai atbildīgi izstrādātu šo funkciju. Atspoguļojuma dati netiek izmantoti citiem mērķiem , un sensitīvas tēmas tiek parādītas tikai augstā līmenī.
Lietotājiem, kuriem ir iespējota atmiņa, Reflect ir pieejama tīmekļa un datora lietotnē Free, Pro un Max līmeņos. Šī funkcija kalpo arī kā neuzkrītošs veids, kā Anthropic veicina dziļāku Claude integrāciju ikdienas darbplūsmās, jo tā iesaka izmantot Projects, lai izvairītos no konteksta atkārtotas skaidrošanas.
Claude Apps Gateway for AWS: centralizēta vadība uzņēmumiem
Anthropic paziņoja arī par pašmitinātu vadības plakni ar nosaukumu Claude apps gateway for AWS, kas paredzēta organizācijām, kuras ievieš Claude Code un Claude Desktop lielās komandās. Šī vārteja aizstāj nepieciešamību pēc individuāliem izstrādātāja akreditācijas datiem un manuālas iestatījumu izplatīšanas, nodrošinot vienotu kontroles punktu pār piekļuvi, izmaksām un politiku.
Vārteja izveido savienojumu ar jebkuru OpenID Connect identitātes pakalpojumu sniedzēju, ļaujot izstrādātājiem pieteikties, izmantojot korporatīvo vienreizējo pierakstīšanos (SSO). Tā katram pieprasījumam piemēro centrāli definētas politikas, piemēram, atļautos modeļus, rīku atļaujas un tēriņu ierobežojumus. Iekļaušana un noņemšana notiek atbilstoši esošajām identitātes darbplūsmām , tāpēc lietotāja noņemšana no IdP automātiski atsauc piekļuvi stundas laikā.
Telemetrijas dati tiek novirzīti uz konfigurējamu kolektoru, piemēram, Amazon CloudWatch, un secinājumu pieprasījumus var novirzīt, izmantojot Amazon Bedrock (saglabājot datus AWS robežās) vai Claude Platform platformā AWS. Izstrādātāji izmanto to pašu Claude Code CLI kā iepriekš, bet tagad katru pieprasījumu autentificē un pārvalda vārteja. Tēriņu ierobežojumus var iestatīt katru dienu, nedēļu vai mēnesi katram lietotājam, grupai vai organizācijai , nodrošinot uzņēmumiem detalizētu izmaksu kontroli.
Vārteja tiek piegādāta kā bezvalstnieks konteiners, ko var izvietot Amazon ECS, EKS vai EC2 platformā, un ko atbalsta PostgreSQL datubāze. Minimāls konfigurācijas fails YAML valodā iestata identitāti, politiku, maršrutēšanu un telemetriju. Šī rīcība, visticamāk, palīdzēs Anthropic konkurēt ar citiem mākslīgā intelekta pakalpojumu sniedzējiem, kas piedāvā uzņēmuma pārvaldības funkcijas.
Apsūdzības par drošības aizmugures durvīm Ķīnā
Tikmēr Ķīnas Nacionālā ievainojamību datubāze brīdināja, ka Claude Code kodēšanas rīkā ir “drošības aizmugurējās durvis”, kas bez piekrišanas varētu pārsūtīt sensitīvu informāciju, piemēram, atrašanās vietu un lietotāja identifikatorus. Ķīnas regulatori mudināja lietotājus atinstalēt vai atjaunināt rīku un uzraudzīt tīkla trafiku, lai konstatētu neatļautas datu noplūdes. Brīdinājums tika sniegts pēc tam, kad Alibaba, kā ziņots, drošības apsvērumu dēļ iekšēji aizliedza Claude Code, sākot ar 10. jūliju.
Anthropic nav oficiāli atbildējis uz regulējošo paziņojumu, taču Claude Code inženieris komentēja X, ka attiecīgā funkcija ir eksperiments, kas tika uzsākts martā, lai novērstu kontu ļaunprātīgu izmantošanu no neatļautu tālākpārdevēju puses un aizsargātu pret destilāciju. Šī nav pirmā reize, kad uzņēmums saskaras ar bažām par mākslīgā intelekta drošību , un inženieris norādīja, ka kopš tā laika ir ieviesti stingrāki mazināšanas pasākumi un ka kods tiks pilnībā atsaukts nākamajā laidienā. Tas liecina, ka uzņēmums uzskata problēmu par atrisinātu, lai gan Ķīnas valdības nostāja joprojām ir piesardzīga.
Šis incidents izceļ pastāvošo spriedzi starp mākslīgā intelekta uzņēmumiem un regulatoriem, īpaši tirgos, kur produkts ir oficiāli bloķēts, bet joprojām pieejams, izmantojot VPN vai starpniekservera pakalpojumus. Tas arī uzsver izaicinājumu līdzsvarot drošību, lietotāju privātumu un ļaunprātīgas izmantošanas novēršanas pasākumus globāli izvietotos mākslīgā intelekta rīkos.
Visi trīs stāsti — Reflect, AWS vārteja un Ķīnas aizmugurējās durvis — demonstrē Anthropic centienus paplašināt un pārvaldīt Kloda darbības jomu, vienlaikus saskaroties ar neizbēgamo pretestību, kas rodas straujās mākslīgā intelekta ieviešanas dēļ. Reflect funkcija veicina apzinātu lietošanu, vārteja nodrošina uzņēmuma pārvaldību, un drošības apsūdzības kalpo kā atgādinājums, ka katra jauna iespēja var piesaistīt rūpīgu pārbaudi. Kopā tie ataino uzņēmumu, kas konkurējošā vidē orientējas izaugsmes, regulējuma un lietotāju uzticības jomā.
