Anthropic pārstāvis Klods pievieno neredzamas teksta ūdenszīmes saskaņā ar ES mākslīgā intelekta noteikumiem

Sākums » programmatūra » Anthropic pārstāvis Klods pievieno neredzamas teksta ūdenszīmes saskaņā ar ES mākslīgā intelekta noteikumiem

Nākotnes Anthropic mākslīgā intelekta asistenta Claude versijas tiek atjauninātas, lai nemanāmi atzīmētu savu rakstīto. No augusta sākuma jaunie Claude modeļi ģenerēs tekstu, kas satur neredzamu, mašīnlasāmu ūdenszīmi — izmaiņas, ko Anthropic ievieš, lai izpildītu Eiropas Savienības Mākslīgā intelekta likuma pārredzamības noteikumus, taču tās attiecas uz visiem reģioniem.

Praksē tas nozīmē, ka jebkurš atbalstītais Claude modelis, tostarp Claude Code, tagad ģenerēs tekstu, kas cilvēkiem izskatās un lasās normāli, bet ko var skenēt ar saderīgu rīku, lai novērtētu, cik liela ir iespējamība, ka Claude ir bijis iesaistīts tā radīšanā vai rediģēšanā. Anthropic, ES regulatori, citas mākslīgā intelekta laboratorijas un arvien pieaugoša izstrādātāju grupa vienojas par šīm šķietami nelielajām izmaiņām mākslīgā intelekta teksta ģenerēšanas veidā, taču sekas jau izraisa debates.

Kāpēc Klodam ir ūdenszīme

Ūdenszīmju ieviešana sākas Briselē. Sākot ar 2. augustu, ES noteikumi pieprasa, lai mākslīgā intelekta pakalpojumu sniedzēji, kas apkalpo tās tirgu, marķētu mākslīgā intelekta ģenerētu vai rediģētu saturu, lai mašīnas to varētu atpazīt. Anthropic ir viens no aptuveni 190 ES prakses kodeksa par mākslīgā intelekta ģenerēta satura pārredzamību parakstītājiem, pievienojoties citiem lieliem spēlētājiem, piemēram, OpenAI, Google, Microsoft un Meta.

Šie noteikumi attiecas uz sintētisko audio, attēlu, video un tekstu; pakalpojumu sniedzējiem, kas tos neievēro, draud sodi līdz pat 3% no pasaules gada ieņēmumiem vai 15 miljoniem eiro atkarībā no pārkāpuma. Lai gan likumu izstrādāja ES, Anthropic apgalvo, ka jau no paša sākuma tas iespējo ūdenszīmju pievienošanu globāli, nevis reģionālā līmenī , jo tam vēl nav stabila veida, kā ierobežot šīs funkcijas izmantošanu tikai ES lietotājiem.

ES deklarētais mērķis ir aizsargāt “informācijas ekosistēmas integritāti un uzticēšanos”, apgrūtinot mākslīgā intelekta rezultātu nodošanu par tīri cilvēka darbu. Amatpersonas apgalvo, ka cilvēkiem ir jāzina, kad viņi mijiedarbojas ar mākslīgā intelekta saturu , lai viņi varētu kalibrēt uzticēšanos, pamanīt potenciālas manipulācijas un izvairīties no maldināšanas. Caurspīdīguma rīki, piemēram, ūdenszīmes, ir paredzēti, lai to atbalstītu, pat ja tās nav redzamas gala lasītājiem.

Uzņēmums “Anthropic” raksturo ūdenszīmes kā vienu elementu plašākā pārredzamības rīku komplektā, nevis pilnīgu risinājumu dezinformācijas vai satura ļaunprātīgas izmantošanas apkarošanai. Uzņēmums ir formulējis šo soli kā veidu, kā piedāvāt “labākus identifikācijas rīkus”, vienlaikus cenšoties nemainīt “Claude” lietderību vai stilu ikdienas lietotājiem.

Kā darbojas Kloda neredzamā ūdenszīme

Zem pārsega ūdenszīmju funkcija izmanto lielu valodu modeļu darbības priekšrocības. Claude, tāpat kā līdzīgas sistēmas, ģenerē tekstu pa vienam tokenam vienlaikus, izvēloties katru nākamo vārdu no iespējamo kandidātu saraksta, pamatojoties uz līdzšinējo kontekstu. Daudzviet ir vairākas iespējas, kas ir aptuveni vienlīdz labas – piemēram, pēc vārdiem "Šodien laiks bija auksts un...", tādi vārdi kā "apmācies" vai "pelēks" ir jēgpilni, savukārt kaut kas līdzīgs "cukurots" nav jēgpilns.

Anthropic ūdenszīmju metode, kuras pamatā ir Google DeepMind SynthID-Text pieeja, kas publicēta 2024. gadā, ietekmē šīs "zemas likmes" izvēles tā, lai teksta gaitā Kloda lēmumi kodētu smalku modeli. Cilvēkiem lasītājiem šis modelis nav pamanāms , bet verificētājs, kuram ir pareizā atslēga, vēlāk var analizēt vārdu secību un novērtēt, vai tā atbilst tam, ko Klods būtu darījis saskaņā ar ūdenszīmju shēmu.

Svarīgākā detaļa ir tā, kas nemainās. Antropic apgalvo, ka modelis joprojām izvēlas no ierastā saprātīgo žetonu kopuma; tas nav spiests lietot neskaidru vai nedabisku vārdu krājumu, ko tas parasti neizmantotu. Ūdenszīme maina nejaušības avotu, ko izmanto, lai pārtrauktu saites starp vienlīdz labiem vārdiem, nevis mudina Klodu izvēlēties vārdus, kurus tas citādi noraidītu.

Lai ilustrētu, spēle "Anthropic" salīdzina šo procesu ar kauliņu maiņu pret pī cipariem galda spēlē. Ja spēlētāji katru reizi pārvietojas pēc garas ciparu virknes, nevis pēc kauliņa metiena, spēle joprojām šķiet nejauša. Taču, ja vēlāk aplūkojat pilnu gājienu sarakstu un zināt pī ciparus, varat noteikt, vai šie gājieni, visticamāk, radušies no šī konkrētā nejaušības avota. Kloda ūdenszīme darbojas līdzīgi arī tekstam.

Tā kā ūdenszīme ir kodēta vārdu izvēles modeļos, atbildēs nav redzamu marķieru, slēptu rakstzīmju un papildu žetonu . Anthropic uzsver, ka tas nozīmē, ka nav papildu izmaksu par katru pieprasījumu un nav acīmredzamas atšķirības lasīšanas pieredzē starp tekstu ar ūdenszīmi un tekstu bez tās.

Ietekme uz kvalitāti, izmaksām un veiktspēju

Gan Anthropic, gan ārējie pētnieki apgalvo, ka ūdenszīmju ievietošana, kā tā šeit ir ieviesta, būtiski nepasliktina Kloda darba kvalitāti. Iekšējos testos Anthropic neuzrāda nekādu ievērojamu ietekmi uz atbilžu radošumu, lasāmību vai faktuālo kvalitāti . Atbildes ar ūdenszīmēm tika atzītas par neatšķiramām no atbildēm bez ūdenszīmēm.

Uzņēmums atsaucas uz rezultātiem no Google DeepMind SynthID-Text pētījuma, kurā daļai Gemini datplūsmas tika izmantots ūdenszīmes modelis un lietotāju vērtējumi (patīk uz augšu/nepatīk uz leju) tika salīdzināti ar bāzes līniju bez ūdenszīmes. Šajā pētījumā iesaistītie cilvēku vērtētāji, tostarp tie, kas veica blakus salīdzinājumus, nekonstatēja konsekventu atšķirību uztvertajā kvalitātē.

Runājot par izmaksām un ātrumu, Anthropic apgalvo, ka ūdenszīmēm ir niecīga ietekme uz veiktspēju . Tā kā netiek ģenerēti papildu žetoni un papildu matemātiskā vērtība ir mazāka nekā parastā secināšana, pieprasījumu latentumam un apkalpošanas izmaksām vajadzētu palikt praktiski nemainīgām. Claude cenu līmeņi netiek īpaši pielāgoti ūdenszīmju dēļ.

Sistēma arī izvairās no ūdenszīmes sasaistīšanas ar konkrētu personu vai organizāciju. Anthropic uzsver, ka iegultais modelis ir saistīts ar modeli un tā atslēgu, nevis ar lietotāja identitāti: no pašas ūdenszīmes nevar izsecināt nekādus personiskus, organizācijas vai tērzēšanas līmeņa datus . Tāpēc noteikšana kaut ko pasaka par Kloda iesaisti, nevis par to, kas to pamudināja vai kāpēc.

Ūdenszīmēm ir ierobežojumi darbības jomā un atklāšanas ziņā. Signāls ir spēcīgāks garākās, brīvākas formas fragmentos, kur modelim ir daudz iespēju veikt savstarpēji aizvietojamu vārdu izvēli. Ļoti īsos fragmentos vai sadaļās, ko ierobežo precīzi fakti, vienādojumi vai stingrs formatējums, var vienkārši nebūt pietiekami daudz vietas, lai kodētu stabilu modeli.

Rediģēšana, tulkojumi un kods: kad parādās atzīme

Viens no vispretrunīgākajiem jautājumiem ir, kas notiek, ja Klods nav darba “autors”, bet tikai rediģē vai tulko cilvēka tekstu. Anthropic atbilde ir tāda, ka ūdenszīme attiecas tikai uz marķieriem, ko Klods faktiski izvēlas . Ja lietotājs ielīmē rindkopu un lūdz veikt nelielus gramatikas labojumus, tikai mainītie vārdi sniedz iespēju pievienot ūdenszīmi, un dažos gadījumos ar to var nepietikt, lai aktivizētu uzticamu noteikšanu.

Tomēr Anthropic arī norāda, ka pat relatīvi vienkāršas darbības – korektūra, tulkošana, apkopošana vai teksta pārstrukturēšana – var atstāt pietiekami daudz Kloda izvēlētu marķieru, lai modeli varētu noteikt, īpaši garākos dokumentos. Savā publiskajā ziņojumā uzņēmums uzsver, ka redzams noteikšanas rezultāts nozīmē, ka Klods kādā brīdī apstrādāja tekstu , nevis to, ka tas katru vārdu radīja no nulles.

Dažiem lietotājiem šī nianse ir mazāk svarīga nekā praktiskais iznākums: rediģēto materiālu joprojām varētu apzīmēt kā mākslīgā intelekta ietekmētu. Piemēram, sabiedriskās politikas darbinieks Arturo Viljarroja pastāstīja Business Insider, ka viņš atcēla savu Claude Max abonementu pēc tam, kad sāka justies neērti ar domu, ka oriģināldarbiem, ko viņš tikai tulkoja vai slīpēja ar Claude, joprojām varētu būt ūdenszīme.

Ārštata izstrādātājs Vladislavs Rajtmajers pauda līdzīgas bažas par koda pārskatīšanu un tulkojumiem, sakot, ka neredzama marķēšana uz klientiem nosūtītā koda varētu radīt jautājumus par autorību vai atbilstību līgumiem, kas ierobežo mākslīgā intelekta izmantošanu. Citi, tostarp mākslīgā intelekta konsultants Ričards Ekolss, pauž bažas, ka pat tad, ja viņi paši raksta saturu, Kloda izmantošana kā redaktors joprojām varētu novest pie dokumentu atzīmes kā mākslīgā intelekta ģenerēti.

Avota kodā Kloda ūdenszīme uzvedas konservatīvāk. Tā kā daudzām koda daļām jābūt precīzām — piemēram, skaitliskiem rezultātiem, identifikatoriem vai sintaksei, kur nepareizs marķieris pārtrauc programmas darbību —, sistēmai ir mazāk vietas, lai izvēlētos starp vienlīdz derīgām alternatīvām. Tā rezultātā ūdenszīmes kodā parasti ir retāk sastopamas nekā naratīvajā prozā, un tās, visticamāk, parādīsies komentāros vai aprakstošā tekstā koda bāzēs, nevis pašās izpildāmajās rindās.

Atklāšana, ierobežojumi un apiešana

Anthropic gatavo īpašu ūdenszīmju noteikšanas API , ko izstrādātāji, platformas un citas trešās puses var izmantot, lai pārbaudītu, vai konkrēto fragmentu, visticamāk, ir izveidojis vai apstrādājis Klods. Uzņēmums apgalvo, ka API ziņos par varbūtības mērījumu, nevis bināru atbildi “jā/nē”, kas atspoguļo ūdenszīmju statistisko raksturu.

Detektors faktiski varēs pateikt, ka “šis teksts ir ļoti atbilstošs tam, ka tas ir ģenerēts saskaņā ar Kloda ūdenszīmju shēmu”, taču tas neidentificēs iesaistīto personu vai organizāciju, kā arī nenoteiks, vai Klods ir uzrakstījis visu dokumentu vai tikai rediģējis to. Anthropic nepārprotami norāda, ka ūdenszīmju pievienošana vien nevar noteikt satura īpašumtiesības, autorību vai juridisko atbildību ; šie jautājumi joprojām ietilpst tā pakalpojumu sniegšanas noteikumos un vietējos likumos.

Ūdenszīmju lietošana nav raksturīga tikai Klodam. Google kopš 2023. gada izmanto SynthID, lai marķētu savu mākslīgā intelekta ģenerēto saturu, un OpenAI ir ieviesis SynthID noteiktiem attēliem un audio failiem. Papildus pakalpojumu sniedzēju pārvaldītajiem detektoriem pastāv atsevišķa mākslīgā intelekta noteikšanas rīku ekosistēma, kas meklē stilistiskas norādes, piemēram, atšķirīgus frāžu modeļus, nevis ūdenszīmju atslēgas. Anthropic norāda, ka šie detektori darbojas ar principiāli atšķirīgiem signāliem , jo ​​tiem nav piekļuves Kloda iekšējai atslēgai.

Tajā pašā laikā daži izstrādātāji jau pēta veidus, kā noņemt vai aizmiglot Kloda ūdenszīmi. Dažu stundu laikā pēc tam, kad Anthropic apstiprināja, ka tā modeļi globāli iestrādās neredzamus marķierus, izstrādātājs Gijoms Mejers padarīja atvērtā koda rīku, kas izmanto citu lielu valodas modeli, lai pārrakstītu Kloda ģenerētu tekstu ar sinonīmiem, pārfrāzēšanu un nelieliem strukturāliem labojumiem, mēģinot lauzt pamatā esošo modeli.

Meijera kods, kas ātri piesaistīja desmitiem tūkstošu grāmatzīmju platformā X un vairāk nekā simts līdzautoru platformā GitHub, tieši nemijiedarbojas ar Anthropic detektoru. Tā vietā tas balstās uz vispārējām zināšanām par SynthID-Text stila sistēmu darbību un ideju, ka pietiekami spēcīga pārfrāzēšana, izmantojot modeli bez ūdenszīmēm, dzēsīs lielāko daļu signāla . Citi inženieri, piemēram, jaunuzņēmuma tehniskais direktors Veins Pens, apgalvo, ka ir iekļāvuši šo rīku savās platformās, jo viņiem nepatīk ideja par neredzamām etiķetēm uz viegli rediģēta satura.

Savukārt Anthropic atzīst, ka ūdenszīmes nav neievainojamas. Viegla rediģēšana, visticamāk, tās pilnībā nenoņems, taču rūpīga pārrakstīšana, aizstājot gandrīz katru vārdu, var novērst atklāšanu — un tādā gadījumā, kā norāda uzņēmums, ir diskutējams, vai rezultāts joprojām būtu jāuzskata par mākslīgā intelekta ģenerētu jebkādā jēgpilnā nozīmē. ES noteikumi aizliedz modeļu nodrošinātājiem pašiem tirgot apiešanas rīkus, taču nepārprotami neaizliedz neatkarīgām trešajām pusēm tos veidot , kas atstāj pelēko zonu, kuru regulatori varētu galu galā pārskatīt.

Lietotāju negatīva reakcija un mainīgie paradumi

Daļai Claude lietotāju bāzes ūdenszīmju pievienošana ir kļuvusi par lūzuma punktu. Kopš Anthropic paziņojuma desmitiem cilvēku X platformā ir publicējuši ekrānuzņēmumus ar atcelšanu, un Business Insider runāja ar vairākiem abonentiem, kuri apgalvo, ka politikas izmaiņas pamudinājušas viņus atteikties no Claude Max un citiem maksas līmeņiem.

Viljaroja, kurš lietotņu izstrādei, pētniecības palīdzībai un rediģēšanai intensīvi izmantoja Klodu, teica, ka viņš pāriet uz tādiem rīkiem kā Cursor un Grok kodēšanai un organizēšanai. Radžmajers raksturoja Anthropic soli kā signālu izpētīt alternatīvus mākslīgā intelekta pakalpojumu sniedzējus, tostarp dažus Ķīnā , kas, iespējams, vēl neievieš līdzīgu ūdenszīmi.

Cits bijušais abonents, vecākais programmatūras inženieris Stevans Bogosavļevičs, teica, ka jau ir neapmierināts ar to, ko viņš uztver kā pakalpojumu kvalitātes samazināšanos un ierobežoto piekļuvi Anthropic labākajiem modeļiem. Viņaprāt, šī ūdenszīme vienkārši apstiprina, ka paļaušanās uz vienu patentētu mākslīgā intelekta platformu rada risku, ka noteikumi un ierobežojumi var mainīties lietotāju apziņā.

Mākslīgā intelekta konsultants Ričards Ekols pauda bažas par to, ka cilvēku rakstīta, bet Kloda nopulēta dokumentācija korporatīvajās atbilstības pārbaudēs joprojām varētu tikt atzīmēta kā mākslīgā intelekta ģenerēta. Viņš uztraucas, ka klientiem ar stingru politiku tas varētu radīt strīdus par līguma noteikumiem vai pieņemamu mākslīgā intelekta izmantošanu , pat ja viņš uzskata mākslīgā intelekta iesaisti par nenozīmīgu.

Savukārt Anthropic apgalvo, ka kopš ūdenszīmju ieviešanas paziņošanas nav novērojis ievērojamu atcelšanu skaita pieaugumu, un apgalvo, ka izmaiņas nemaina abonēšanas cenas vai pamatfunkcijas. Uzņēmuma viedoklis ir tāds, ka ūdenszīme vienkārši atspoguļo normatīvo aktu realitāti un nozares praksi , nevis vēlmi ierobežot lietotāju darbplūsmas.

Tomēr daži izstrādātāji, piemēram, aģentūras dibinātājs Santjago Alesandro Rivera Martiness, saka, ka šī epizode ir pastiprinājusi viņu priekšroku “no pakalpojumu sniedzēja neatkarīgām” vidēm. Viņš apgalvo, ka, ja jūsu darbplūsma ir cieši saistīta ar vienu mākslīgā intelekta pārdevēju, jūs esat pakļauts pēkšņiem politikas lēmumiem — vai nu par ūdenszīmēm, lietošanas ierobežojumiem vai piekļuvi modelim —, kas var reāli ietekmēt ikdienas darbu.

Argumenti par labu ūdenszīmēm mākslīgajam intelektam

Ne visas reakcijas ir negatīvas. Ūdenszīmju atbalstītāji to uzskata par relatīvi pieticīgu, bet noderīgu soli skaidrības virzienā tiešsaistes vidē, kur mākslīgā intelekta ģenerēts saturs strauji izplatās un cilvēkiem kļūst arvien grūtāk atšķirt no cilvēku rakstīta satura.

Daži komunikācijas speciālisti apgalvo, ka auditorijai ir jāzina, vai vārdi, ko viņi lasa, atspoguļo kāda cilvēka faktisko domāšanas procesu vai mākslīgā intelekta asistenta veidotu sintētisku melnrakstu. Piemēram, komunikācijas nodaļas dibinātājs Aadits Šets publiski paziņoja, ka lasītājiem vajadzētu būt iespējai noteikt, kad viņi mijiedarbojas ar mākslīgā intelekta atbalstītu ziņojumapmaiņu , un ka modeļa līmeņa ūdenszīmes ir viena no pieejām šī signāla sniegšanai.

Citi norāda uz iespējamiem ieguvumiem pašai mākslīgā intelekta ekosistēmai. Ja lielie pakalpojumu sniedzēji var droši marķēt savus rezultātus, tad turpmākās apmācības varētu palīdzēt izvairīties no liela apjoma vecāka mākslīgā intelekta ģenerēta teksta patēriņa. Vairāki pētnieki ir brīdinājuši, ka atkārtota modeļu apmācība ar sintētiskiem datiem rada kvalitātes pasliktināšanās un atgriezeniskās saites risku , un ūdenszīmju izmantošana piedāvā tehnisku sviru šāda materiāla filtrēšanai vai svara samazināšanai.

Tikmēr regulatori uzskata ūdenszīmes par vienu no plašākas pārredzamības sistēmas pamatelementiem. ES sagaida, ka mākslīgā intelekta laboratorijas, kas vislabāk izprot savas sistēmas, turpinās atkārtoti izstrādāt uzticamas un sadarbspējīgas metodes satura izcelsmes izsekošanai. Konkrētāk — cik spēcīgas ir zīmes, kā darbojas detektori un kā etiķetes tiek parādītas lietotājiem — lielā mērā joprojām ir uzņēmumu ziņā, taču virziens tagad ir noteikts likumā.

Kritiķi un atbalstītāji bieži vien piekrīt, atzīstot, ka ūdenszīmju ievietošana ir nepilnīgs, bet pragmatisks pasākums. Tā pati par sevi neapturēs dezinformācijas kampaņas, un to var apiet. Tā arī neatbild uz sarežģītākiem normatīviem jautājumiem par atbilstošu mākslīgā intelekta izmantošanu izglītībā, darbā pieņemšanā vai pētniecībā . Tā gan piedāvā standartizētu veidu, kā sistēmas var jautāt: "Vai tas, visticamāk, nonāca caur Klodu?", un attiecīgā gadījumā rīkoties, pamatojoties uz šo informāciju.

Tā kā arvien vairāk laboratoriju normatīvā spiediena ietekmē ievieš līdzīgus mehānismus, neredzamie paraksti mākslīgā intelekta izvadē drīz kļūs par normālu – kaut arī lielākoties neredzamu – digitālā teksta ģenerēšanas, apmaiņas un audita sastāvdaļu. Cilvēkiem un organizācijām, kas veido kopumu ar Klodu, tas nozīmē ņemt vērā ne tikai to, ko modelis var ģenerēt, bet arī to, kā tā ietekme var pārvietoties kopā ar saturu ilgi pēc tērzēšanas loga aizvēršanas.