- Visaptverošs aģentīvās atmiņas veidu sadalījums, pamatojoties uz kognitīvo zinātni, tostarp darba, epizodiskā, semantiskā un procedurālā atmiņa.
- Detalizētas arhitektūras stratēģijas ražošanai, salīdzinot buferu, kopsavilkuma un vektoru bāzes izguves sistēmas.
- Kritiski ieviešanas modeļi atmiņas konsolidācijai, konfliktu risināšanai un datu privātuma atbilstībai.
- Nozarē vadošo atmiņas sistēmu analīze un atšķirība starp RAG un pieredzes atmiņu.
Vai esat kādreiz juties tā, it kā jūsu mākslīgā intelekta asistents cieš no pilnīgas informācijas zuduma brīdī, kad sākat jaunu tērzēšanu? Tā ir bieži sastopama problēma: jūs pavadāt stundu, skaidrojot sava projekta tehnoloģiju steku, un tad nākamajā sesijā robots atkal jautā, kādu valodu jūs izmantojat. Tas notiek tāpēc, ka standarta lielo valodu modeļi (LLM) pēc būtības ir bezvalstnieki , kas nozīmē, ka tie apstrādā katru pieprasījumu tā, it kā tā būtu pirmā reize, kad viņi jūs satiek.
Lai pārietu no vienkāršiem tērzēšanas robotiem un radītu patiesus autonomus aģentus , mums ir jāpārvar šī plaisa, izmantojot aģentūru atmiņu . Tas nav tikai par papildu teksta ievietošanu uzvednē; tas ir par sistēmas izveidi, kas var uzglabāt, izgūt un laika gaitā attīstīt informāciju. Atdarinot veidu, kā cilvēka smadzenes apstrādā datus, mēs varam pārveidot paklausīgus rīkus par inteliģentiem partneriem , kas faktiski mācās no savām kļūdām un atceras jūsu dīvaino priekšroku tumšā režīma CSS.
Kognitīvais plāns: mākslīgā intelekta atmiņas veidi
Pētnieki, īpaši tie, kas izstrādāja Prinstonas Universitātes CoALA (Kognitīvās arhitektūras valodu aģentiem) ietvaru , iesaka mākslīgā intelekta atmiņu klasificēt tāpat kā cilvēka psiholoģiju. Tā nav tikai iedomāta analoģija; tā ir funkcionāla prasība sarežģītai uzvedībai.
Pirmkārt, ir darba atmiņa (īstermiņa atmiņa ). Tā būtībā ir aģenta pašreizējā uzmanības centrā esošā tēma — tūlītēja saruna un nesenie rīku rezultāti. Lai gan īstermiņa atmiņai (LLM) tagad ir milzīgi konteksta logi, tā bieži cieš no "pazušanas pa vidu" fenomena , kad tā aizmirst detaļas, kas atrodas garas uzvednes centrā. Lai to pārvaldītu, izstrādātāji izmanto slīdošos buferus vai bīdāmos logus, lai saglabātu aktīvus visatbilstošākos fragmentus.
Tad mums ir epizodiskā atmiņa , kas ir līdzīga aģenta autobiogrāfijai. Vispārīgu faktu vietā tā reģistrē konkrētus notikumus ar laika zīmogiem . Piemēram, tā vietā, lai zinātu, ka jums patīk e-pasts, tā atceras, ka "5. martā norēķinu strīda laikā lietotājs skaidri pieprasīja e-pasta atjauninājumus". Tas parasti tiek apstrādāts, izmantojot vektoru datubāzes, kas sver rezultātus, pamatojoties uz to, cik nesens bija notikums.
Semantiskā atmiņa ir vieta, kur mīt destilētās zināšanas. Kamēr epizodiskā atmiņa ir par to, “kas notika”, semantiskā atmiņa ir par to, “kas ir patiesība”. Tā ir faktu, lietotāja preferenču un vispārīgu noteikumu kolekcija. Tā ir personalizācijas pamatā, kas ļauj aģentam uzturēt nepārtraukti atjauninātu lietotāja profilu , kas saglabājas vairākus mēnešus ilgas mijiedarbības laikā.
Sarežģītākām lietām ir paredzēta procedūru atmiņa . Uztveriet to kā aģenta "muskuļu atmiņu". Tajā tiek glabātas optimizētas darbplūsmas un veiksmīgi modeļi . Ja aģents ir atrisinājis piecdesmit datubāzes kļūdas, izmantojot noteiktu pārbaužu secību, tam piecdesmit pirmo reizi nevajadzētu spriest no nulles; tam vienkārši jāizpilda pārbaudītā procedūra.
Visbeidzot, dažas modernākās sistēmas izmanto grafu atmiņu . Atšķirībā no plakanajām vektoru meklēšanām, grafi izseko attiecības starp entītijām . Tā ir atšķirība starp zināšanu par “Alises” un “Boba” eksistenci un zināšanu par to, ka Alise ziņo Bobam , kurš vada serveru komandu. Tas maina spēles noteikumus uzņēmumu aģentiem, kas orientējas sarežģītās korporatīvajās hierarhijās.
Ražošanas ēkas: arhitektūras modeļi
Ja veidojat tikai prototipu, derēs vienkārša buferšķīduma sistēma. Taču, kad sāksiet ražošanu, jums ir nepieciešama stratēģija, kas neiztērēs jūsu budžetu žetonu iegādei. Viena populāra pieeja ir kopsavilkuma atmiņa , kurā sistēma saspiež vecos ziņojumus kodolīgā īsumā, pirms izmet neapstrādāto tekstu. Tas ietaupa vietu, lai gan jūs varat zaudēt daļu no sākotnējās sarunas emocionālās nianses vai specifiskā formulējuma .
Liela mēroga lietotnēm divslāņu arhitektūra (karstais/aukstais ceļš) ir zelta standarts. “Karstais ceļš” izmanto kaut ko līdzīgu Redis, lai uzglabātu sesijas datus un biežas preferences izguvei zem 10 ms. “Aukstais ceļš” ir jaudīga vektoru datubāze, piemēram, Pinecone vai Qdrant, kurā tiek glabāta visa vēsture. Sistēma vispirms pārbauda kešatmiņu un nonāk diskā tikai tad, kad tai ir nepieciešams dziļš vēsturisks konteksts.
Nevar ignorēt arī atmiņas konsolidāciju . Iedomājieties smadzenes, kas nekad neguļ; tās pārņemtu troksnis. Aģentūru sistēmām ir nepieciešams fona cauruļvads (bieži vien darbojas visu nakti) , kas ņem neapstrādātus epizodiskus žurnālus un pārvērš tos semantiskos faktos. Šis "bēniņu tīrīšanas" process neļauj atmiņas krātuvei kļūt par "sveiki" un "paldies" atkritumu kaudzi.
Atmiņa pret RAG: neskaidrību novēršana
Cilvēki bieži jauc atmiņu ar RAG, taču tie kalpo pavisam citiem kungiem. RAG (Retrieval-Augmented Generation jeb izguves papildinātā ģenerēšana) ir saistīta ar organizatoriskām zināšanām — tādām lietām kā PDF rokasgrāmatas vai uzņēmumu wiki. Šī informācija ir statiska un vienāda katram lietotājam. Savukārt aģentu atmiņa ir pieredzes atmiņa. Tā ir unikāla specifiskajām attiecībām starp aģentu un lietotāju.
Reālajā pasaulē šie divi darbojas tandēmā. Aģents varētu izmantot RAG, lai atrastu uzņēmuma oficiālo preču atgriešanas politiku, bet izmantot savu atmiņu, lai atcerētos, ka šis konkrētais klients šomēnes jau ir atgriezis trīs preces un varētu radīt krāpšanas risku. Šo divu plūsmu apvienošana ļauj aģentam būt gan faktiski precīzam, gan kontekstuāli informētam.
Tumšā puse: privātums, ētika un aizmiršana
Vairāk atmiņas nozīmē lielāku lietderību, bet tas nozīmē arī lielāku risku. Visa veida glabāšana ir VDAR murgs . Lai nodrošinātu atbilstību prasībām, izstrādātājiem ir jāievieš “tiesības tikt aizmirstam”, kas nozīmē, ka ir nepieciešams veids, kā izdzēst katru atsevišķu vektoru un kopsavilkumu, kas saistīts ar konkrētu lietotāja ID, nepārtraucot pārējo sistēmu.
Svarīga veselīgas atmiņas sastāvdaļa ir spēja aizmirst . Sistēmas, kas visu glabā mūžīgi, cieš no "atmiņas inflācijas", kur veci, nebūtiski dati konkurē ar jaunu, svarīgu informāciju. Eksponenciālas sabrukšanas ieviešana — kur atmiņas svarīguma rādītājs laika gaitā samazinās — nodrošina, ka aģents ir atjaunināts. Piemēram, lietotāja adresei pirms trim gadiem automātiski jāzaudē prioritāte salīdzinājumā ar pašreizējo adresi.
Visbeidzot, uzmanieties no atmiņas saindēšanas . Ja tiesību zinātņu aģents (LLM) halucinē faktu un pēc tam saglabā šo halucināciju savā semantiskajā atmiņā, tas faktiski ir melojis pats sev . Turpmākā mijiedarbība tiks balstīta uz šo nepatieso pieņēmumu. Validācijas posma ieviešana , kurā aģents pirms ilgtermiņa glabāšanas vēlreiz pārbauda faktu ar avota sarunu, ir būtiska uzticamības nodrošināšanai.
Ietvaru novērtēšana: Mem0, Zep un Letta
Jums tas nav jāveido no nulles. Mem0 ir kļuvis par iecienītāko, jo tas uzreiz apstrādā ieguvi, konfliktu risināšanu un vairāku aizmugursistēmu krātuvi. Tas ir lieliski piemērots tiem, kas vēlas pastāvīgus lietotāju profilus, nepārvaldot pamatā esošo vektoru matemātiku. Zep ir jaudīgs rīks tiem, kam nepieciešami laika zināšanu grafiki, kas ļauj aģentiem izsekot, kā lietotāja vajadzības mainās laika gaitā.
Tad vēl ir Letta (agrāk MemGPT) , kas apstrādā LLM kontekstu kā datora RAM. Tā piešķir aģentam metakognitīvu kontroli , kas nozīmē, ka aģents faktiski var izlemt, kad ierakstīt atmiņu "diskā" vai meklēt savos arhīvos. Šī OS iedvesmotā pieeja ir neticami piemērota pētniecības ziņā intensīvi strādājošiem aģentiem, kuriem autonomi jāpārvalda milzīgs informācijas apjoms.
Jebkura no šiem rīkiem slepenā recepte ir tā, kā jūs rīkojaties ar konfliktu risināšanu . Ja lietotājs janvārī saka, ka viņam patīk Python, bet martā pāriet uz Rust, naiva sistēma saglabā abus un rodas apjukums. Profesionāla iestatīšana izmanto uzticamības svērtus atjauninājumus , kur jaunākā mijiedarbība ar augstu uzticamību pārraksta novecojušo, saglabājot aģenta iekšējo lietotāja modeli precīzu un efektīvu.
Patiesi inteliģenta aģenta izveidei ir nepieciešams sarežģīts īstermiņa buferu apvienojums tūlītējai plūsmai, uz vektoriem balstīta epizodiska vēstures glabāšana un semantiskā destilācija personalizēšanai, vienlaikus saglabājot stingru privātuma un datu sabrukšanas slāni, lai nodrošinātu sistēmas efektivitāti un atbilstību tiesību aktiem.
