Spring AI darbībā: īstu AI lietotņu veidošana ar Spring Boot

Pēdējā atjaunošana: 02/13/2026
  • Spring AI nodrošina pārnēsājamas, strukturētas un novērojamas AI iespējas Spring Boot, abstrahējot galvenos LLM un vektoru pakalpojumu sniedzējus aiz konsekventas Java API.
  • Grāmata “Spring AI darbībā” sniedz Spring izstrādātājiem norādījumus no vienkāršām uzvednēm līdz progresīvai RAG, aģentiem, rīkiem, runai un novērojamībai, izmantojot praktiskus, uz piemēriem balstītus modeļus.
  • Uzņēmumiem paredzētas funkcijas, piemēram, konsultanti, sarunu atmiņa, modeļu novērtēšana un Tanzu Gen AI integrācija, ļauj JVM izveidot uzticamas, ražošanas līmeņa AI sistēmas.

Pavasara mākslīgā intelekta darbība grāmata un ietvars

Spring AI darbībā ātri kļūst par galveno atsauci Java un Spring Boot izstrādātājiem, kuri vēlas ieviest mūsdienīgu ģeneratīvo mākslīgo intelektu savos ikdienas projektos, neatsakoties no JVM steka. Tā vietā, lai jūs piespiestu izmantot Python ekosistēmas vai neskaidrus rīkus, grāmata un ietvars darbojas roku rokā, lai jūs varētu turpināt kodēt Java vai Kotlin, vienlaikus integrējot jaudīgus lielo valodu modeļus (LLM), izguves paplašināto ģenerēšanu (RAG), aģentus, rīkus un multimodālas funkcijas.

Šo ekosistēmu tik pievilcīgu padara ražošanai gatava ietvara (Spring AI) un ļoti pragmatiska, uz piemēriem balstīta ceļveža (Spring AI darbībā, autors Kreigs Volss) apvienojums. Kopā viņi parāda, kā, izmantojot vienkāršas POJO (pozīciju resursdatora darbības jomas), automātisko konfigurāciju un tīru, pārnēsājamu API, kas slēpj daudz pakalpojumu sniedzējam raksturīgās sarežģītības, integrēt mākslīgā intelekta modeļus, vektoru datubāzes, sarunu atmiņu un novērtēšanas rīkus pazīstamās Spring Boot lietotnēs.

Kas ir Spring AI un kāpēc tas ir svarīgi Java izstrādātājiem?

Spring AI ir lietojumprogrammu ietvars, kas izstrādāts, lai klasiskos Spring principus — pārnesamību, modulāru arhitektūru un uz POJO orientētu dizainu — ieviestu mākslīgā intelekta inženierijas pasaulē. Savā būtībā Spring AI koncentrējas uz sarežģītākās praktiskās problēmas risināšanu uzņēmumu mākslīgajā intelektā: jūsu organizācijas savienošanu dati un API ar modernu AI modeļi tādā veidā, kas ir uzturējams, novērojams un viegli attīstāms laika gaitā.

Tā vietā, lai piesaistītu jūs vienam LLM pārdevējam, Spring AI abstrahējas par lielāko daļu lielo pakalpojumu sniedzēju. Tūlīt pēc instalēšanas varat sazināties ar OpenAI modeļiem, Azure OpenAI, Anthropic, Amazon Bedrock, Google, MistralAI un pat lokālie modeļi, ko apkalpo Ollama. Viens un tas pats programmēšanas modelis atbalsta gan sinhronās, gan straumēšanas atbildes, un jūs joprojām saglabājat piekļuvi pakalpojumu sniedzēja specifiskajām iespējām, kad tās jums patiešām ir nepieciešamas.

Vēl viens Spring AI pamatelements ir tā spēcīgais atbalsts strukturētai izvadei. Tā vietā, lai manuāli parsētu neapstrādātu tekstu, modeļa atbildes var tieši sasaistīt ar Java klasēm un ierakstiem, pārvēršot nekārtīgu dabisko valodu tīros POJO (projekta objektos). Tas ir svarīgi, veidojot aģentus, rīkus vai darbplūsmas, kurām jāargumentē par paredzamiem datiem, nevis nestrukturētu tekstu.

Spring AI arī dziļi integrējas ar vektoru datubāzēm, lai jūs varētu ieviest izguves paplašināto ģenerēšanu (Retrieval Augmented Generation), neizgudrojot riteni no jauna. Tas atbalsta tādus pakalpojumu sniedzējus kā Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j, Oracle integrācija, PostgreSQL ar PGVector, Pinecone, Qdrant, Redis un Weaviate. Pārnēsājama Vector Store API un SQL līdzīga metadatu filtrēšanas valoda ļauj mainīt vektoru aizmugures sistēmas ar minimālām koda izmaiņām.

Turklāt Spring AI ietver rīkus novērošanai, dokumentu uzņemšanas kanāliem, modeļu novērtēšanai un ģeneratīviem AI modeļiem. Jūs iegūstat tekošu valodu ChatClient līdzīgs WebClient/RestClient, Konsultanti izplatītiem mākslīgā intelekta modeļiem, piemēram, RAG un sarunu atmiņai, automātiska konfigurācija ar Spring Boot starteriem un utilītas žetonu lietošanas uzraudzībai un halucināciju noteikšanai.

“Pavasara mākslīgais intelekts darbībā”: no Sveika, AI pasaule līdz pilntiesīgiem aģentiem

Kreiga Volsa grāmata “Spring AI darbībā” ir praktiska rokasgrāmata, kas parāda, kā izmantot visas šīs Spring AI iespējas reālos pielietojumos. Grāmata ir paredzēta tieši Spring izstrādātājiem un pieņem, ka jūs jau pārzināt Spring Boot, taču tai nav nepieciešama iepriekšēja pieredze ar ģeneratīvo mākslīgo intelektu; jums nav jābūt datu zinātniekam vai “mākslīgā intelekta ekspertam”, lai sekotu līdzi.

Grāmatā aprakstītais ceļojums sākas ar vienkāršu “Sveika, mākslīgā intelekta pasaule!” piemēru un pakāpeniski iepazīstina ar sarežģītākām metodēm, jums tās apgūstot. Vispirms izveidojiet pamata LLM izsaukumu Spring Boot lietotnē, pēc tam pārejiet pie teksta kopsavilkumu ģenerēšanas, asistentu izveides, kas atrodas esošajos tīmekļa vai aizmugursistēmas pakalpojumos, un uzvedņu veidošanas, lai atbildes būtu noderīgākas un paredzamākas.

Turpinot darbu, saturs iedziļinās RAG, vektoru krātuvēs un multimodālos scenārijos, kur modeļi darbojas gan ar tekstu, gan attēliem. Jūs iemācīsities uzdot jautājumus par privātiem dokumentiem, ar kuriem modelis nekad nav apmācīts, kā attēlus pārvērst tekstā un otrādi, kā arī kā pamatot LLM atbildes uz saviem datiem, lai viņi pārstātu halucinēt, saskaroties ar konkrētai jomai raksturīgiem jautājumiem.

Grāmatas otrā puse paceļ latiņu, izpētot aģentus, rīku lietošanu, runu un novērojamību. Šeit jūs redzēsiet, kā veidot mākslīgā intelekta aģentus, kas var izlemt, kad izsaukt rīkus vai API, kā novirzīt uzdevumus uz specializētām uzvednēm, kā izsekot notiekošajam, izmantojot metrikas un izsekošanas datus, un kā nodrošināt sistēmas drošību, veicot novērtējumus un drošības pasākumus saistībā ar ģenerēto saturu.

Visā grāmatā Kreigs Volss saglabā savu raksturīgo, uz piemēriem balstīto stilu, vienmēr koncentrējoties uz “lietu paveikšanu”, nevis ieslīgstot teorijā. Nodaļas ir pilnas ar pragmatiskiem fragmentiem un reālistiskiem scenārijiem: tērzēšanas roboti, kas patiešām zina jūsu datus, biznesa darbplūsmās iestrādāti asistenti un aģenti, kas sadala sarežģītus uzdevumus mazākos, pārvaldāmos elementos.

Grāmatas galvenās tēmas un struktūra

“Spring AI in Action” satura rādītājs sniedz skaidru priekšstatu par to, ko jūs veidosiet. Sākot ar pamatelementiem un beidzot ar sarežģītiem modeļiem, katra nodaļa koncentrējas uz konkrētu mākslīgā intelekta integrācijas jomu ar Spring:

  • Darba sākšana ar Spring AI: projekta sāknēšana, pakalpojumu sniedzēju konfigurēšana, pirmo uzdevumu nosūtīšana.
  • Ģenerēto atbilžu novērtēšana: kvalitātes mērīšana, problēmu atklāšana un aizsardzība pret zemas kvalitātes vai halucinācijas izraisošu saturu.
  • Uzvedņu iesniegšana ģenerēšanai: uzdevumu izstrāde, veidņu izmantošana un modeļa uzvedības kontrole.
  • Saruna ar jūsu dokumentiemRAG ieviešana, lai LLM varētu atbildēt uz jautājumiem par neapmācītiem, privātiem datiem.
  • Sarunu atmiņas iespējošana: vairāku pagriezienu tērzēšanas konteksta uzturēšana, izmantojot Spring AI atmiņas padomdevējus.
  • Rīku vadītas ģenerēšanas aktivizēšana: ļaujot modeļiem izsaukt klienta puses funkcijas un rīkus, kad tiem nepieciešami jauni vai ārēji dati.
  • Modeļa konteksta protokola (MCP) pielietošana: bagātīgāka konteksta pārvaldība un mijiedarbība ar rīkiem un datu avotiem.
  • Ģenerēšana ar balsi un attēliem: runas un attēlu multimodālo iespēju izmantošana.
  • AI darbību novērošana: pievienojot novērojamību un uzraudzību jūsu mākslīgā intelekta cauruļvados.
  • Ģeneratīvā mākslīgā intelekta aizsardzība: aizsargbarjeru, satura filtru un citu aizsardzības mehānismu piemērošana.
  • Ģeneratīvo mākslīgā intelekta modeļu pielietošana: atkārtoti izmantojamu modeļu tveršana mākslīgā intelekta darbplūsmām.
  • Nodarbinoši aģenti: aģentūru sistēmu izveide, kas var plānot, maršrutēt un pilnveidot darbu.

Atsauksmes no cienāmām balsīm Spring un Java kopienās uzsver, cik pieejams un praktisks ir materiāls. Priekšvārda autori un recenzenti slavē grāmatu par skaidriem skaidrojumiem, plašajām demonstrācijām un “dārgumu krātuves” dziļumu jaunajās tehnoloģijās, uzsverot, ka tā joprojām balstās uz reālās pasaules attīstību, nevis akadēmisku abstrakciju.

Iegādājoties Manning drukāto izdevumu, jūs saņemat arī bezmaksas e-grāmatu (PDF vai ePub formātā), kā arī piekļuvi tiešsaistes LiveBook versijai. Pašā liveBook platformā ir iekļauts mākslīgā intelekta palīgs, kas spēj atbildēt uz jūsu jautājumiem vairākās valodās, lai jūs varētu izpētīt piemērus, meklēt tekstā un precizēt tēmas lasīšanas laikā.

Spring AI pamatfunkcijas uzņēmumu līmeņa AI lietotnēm

Papildus grāmatai Spring AI ietvars piedāvā visaptverošu funkciju kopumu, kas pielāgots ražošanas līmeņa AI lietojumprogrammām. Runa nav tikai par LLM izsaukšanu; runa ir par pilnīgu sistēmu izveidi, kas ir drošas, novērojamas, pārbaudāmas un pārnesamas dažādos pakalpojumu sniedzējos un vidēs.

Tāds pats elastības līmenis attiecas arī uz vektoru krātuvēm. Ar Apache Cassandra, Azure Vector Search, Chroma, Milvus, MongoDB Atlas, Neo4j, Oracle, PostgreSQL/PGVector, Pinecone, Qdrant, Redis, Weaviate un citu atbalstu varat ieviest RAG un semantisko meklēšanu, nepieslēdzot lietotni vienam krātuves risinājumam. Pārnēsājams API un izteiksmīgi metadatu filtri atvieglo sarežģītu līdzības vaicājumu izpildi.

Rīki un funkciju izsaukšana ir pirmšķirīgi Spring AI. Modeļi var pieprasīt klienta puses rīku un funkciju izpildi, lai izgūtu reāllaika datus vai aktivizētu darbības. Tas pārvērš jūsu LLM no pasīva teksta ģeneratora par aktīvu komponentu, kas var veikt vaicājumus API, izsaukt datubāzes vai organizēt pakalpojumus, izmantojot tipizētus funkciju izsaukumus.

Novērojamība ir iestrādāta ietvarā, lai jūs varētu redzēt, ko jūsu mākslīgais intelekts dara zem pārsega. Varat apkopot metriku par marķieru lietojumu, latentumu un kļūdu līmeni, izsekot izsaukumiem sistēmā un korelēt mākslīgā intelekta (LLM) aktivitāti ar pārējiem mikropakalpojumiem. Tas ir ļoti svarīgi, kad mākslīgais intelekts (AI) pāriet no eksperimentiem uz uzņēmējdarbībai kritiskām darba slodzēm.

Spring AI ietver arī ETL stila dokumentu uzņemšanas ietvaru datu inženierijas uzdevumiem. Tas palīdz ielādēt, sadalīt fragmentos un indeksēt dokumentus vektoru krātuvēs, lai jūsu RAG cauruļvadi būtu stabili un atkārtojami, nevis ad-hoc skriptu kolekcija.

ChatClient, Advisors un sarunu iespējas

Kodēšanas līmenī lielākā daļa Spring AI mijiedarbību griežas ap ChatClient API — plūstošs interfeiss, kas iedvesmots no pazīstamiem Spring WebClient un RestClient modeļiem. Jūs veidojat un nosūtāt uzvednes, saņemat atbildes, straumējat žetonus, tiklīdz tie tiek piegādāti, un apstrādājat kļūdas tādā veidā, kas Spring izstrādātājiem šķiet dabiski.

Padomnieki ir vēl viena galvenā abstrakcija, kas ietver izplatītus ģeneratīvā mākslīgā intelekta modeļus. Tie pārveido datus, kas nonāk uz LLM un nāk no tiem, uzslāņo tādus uzvedības modeļus kā RAG vai atmiņu un nodrošina pārnesamību starp modeļiem un lietošanas gadījumiem. Tā vietā, lai manuāli ievadītu katru uzvedni vai kontekstu, jūs pievienojat konsultantus, lai iegūtu stabilu uzvedību ar minimālu standarta informāciju.

Sarunu atmiņu apstrādā specializēti sarunu atmiņas konsultanti, kas pārvalda vairāku pavērsienu dialogu. Tā kā LLM paši ir bezvalstnieki un “aizmirst” iepriekšējās sarunas, šie konsultanti izseko sarunu vēsturi un katrā uzvednē ievada pareizos konteksta fragmentus. Jūs varat izvēlēties starp dažādām stratēģijām un pat ieviest pastāvīgu, ilgtermiņa atmiņu, izmantojot uz vektoriem balstītas pieejas.

Tērzēšanas atmiņas un RAG Advisors kombinācija ļauj izveidot palīgus, kas var “sarunāties” ar jūsu dokumentiem vairākos posmos. Lietotājs var uzdot papildu jautājumus, precizēt savus jautājumus un atsaukties uz sarunas iepriekšējām daļām, savukārt Spring AI automātiski izgūst un ievieto atbilstošākos dokumentu fragmentus katrā pieprasījumā.

Uzvedņu veidnes atvieglo uzvedņu eksternalizēšanu un atkārtotu izmantošanu. Jūs definējat vispārīgas veidnes, kas pieņem parametrus, iekļauj papildu instrukcijas un norāda vēlamo izvades formātu (piemēram, JSON, kas tieši sasaista ar Java objektiem). Pirms uzvednes nosūtīšanas Spring AI aizpilda tukšās vietas, piemēro kontekstu un nodrošina, ka instrukcijas ir skaidras modelim.

RAG, halucināciju mazināšana un dokumentu apzinoši asistenti

Izguves paplašinātā ģenerēšana (RAG) ir viens no svarīgākajiem modeļiem, ko aptver gan sistēma, gan grāmata. Tas atrisina statisko tiesību maģistru (LLM) kritisku ierobežojumu: viņi zina tikai to, uz ko ir apmācīti, kas nozīmē, ka pēc noklusējuma viņi nevar redzēt jūsu iekšējo dokumentāciju, klientu datus vai patentētas zināšanas.

Izmantojot RAG, jūsu lietojumprogramma vispirms izgūst nelielu dokumentu kopu, kas ir semantiski līdzīgi lietotāja jautājumam, un pēc tam tos ievada modelī kā kontekstu. Spring AI abstrahē lielu daļu šī darba, integrējoties ar desmitiem vektoru krātuvju un nodrošinot API vaicājumu veikšanai pēc līdzības, filtrēšanai pēc metadatiem un satura sadalīšanas fragmentos un iegulšanas veida pielāgošanai.

Pareizi ieviesta RAG ievērojami samazina halucinācijas. Tā vietā, lai minētu, kad tam trūkst informācijas vai tas ir pārāk apmācīts, izmantojot vispārīgus interneta datus, modelis tiek virzīts uz augstas kvalitātes, konkrētai jomai specifiskiem fragmentiem. Grāmatā ir aprakstīti “tērzēšana ar jūsu dokumentāciju” un “jautājumi un atbildes par jūsu dokumentiem” lietošanas gadījumi, kas pilnībā parāda šo modeli.

cauri QuestionAnswerAdvisor un ChatClient, jūs varat vai nu tieši vadīt visu RAG plūsmu, vai arī ļaut padomniekam jūsu vietā organizēt iegulšanu, izgūšanu un konteksta ievadīšanu. Tas sniedz jums elastību: sāciet ar vienkāršu pieeju, lai ātri virzītos uz priekšu, un pēc tam pazeminiet līmeni, kad nepieciešama pielāgota uzvedība vai padziļināta optimizācija.

Tā kā Spring AI atbalsta atbilžu straumēšanu, šīs dokumentos ietvertās atbildes var straumēt atpakaļ uz lietotāja saskarni, tiklīdz tās tiek ģenerētas. Tas atdarina cilvēka rakstīšanu reāllaikā un nodrošina labāku lietotāja pieredzi, īpaši, ja atbildes ir garas vai modeļa latentums ir augsts.

Antropisko pētījumu iedvesmoti aģentu modeļi

Spring AI ievieš arī aģentu modeļu kopumu, kas iedvesmots no Anthropic pētījumiem par efektīvu LLM aģentu izveidi. Uzsvars tiek likts uz vienkāršību un saliekamību, nevis uz smagnējiem, necaurspīdīgiem aģentu ietvariem, kas labi atbilst uzņēmuma prasībām attiecībā uz uzturējamām, testējamām sistēmām.

Pirmais modelis, ķēdes darbplūsma, sadala lielus uzdevumus mazāku, sakārtotu soļu sērijā. Katrs solis izmanto savu uzvedni, patērē iepriekšējā soļa izvadi un ģenerē uzlabotus starpposma rezultātus. Spring AI tas izskatās kā sistēmas uzvedņu atkārtošana un izsaukšana. ChatClient atkārtoti, nododot iepriekšējo atbildi kā daļu no nākamās ievades, izveidojot skaidru un paplašināmu cauruļvadu.

Paralēlizācijas darbplūsma ir par vairāku LLM izsaukumu vienlaicīgu izpildi un to rezultātu apkopošanu. Varat to izmantot “sekcionēšanai” (darba sadalīšanai neatkarīgos blokos) vai “balsošanai” (vairākām modeļu palaišanām risinot vienu un to pašu uzdevumu un pēc tam apvienojot rezultātus). Piemēram, varat lūgt modelim paralēli analizēt tirgus izmaiņu ietekmi uz klientiem, darbiniekiem, investoriem un piegādātājiem un pēc tam apvienot šīs atziņas.

Maršrutēšanas darbplūsma ievieš inteliģentu dispečeru sistēmu. LLM vispirms klasificē ievadi un izlemj, kurai specializētai uzvednei vai apstrādātājam tā jāapstrādā: jautājumi par norēķiniem nonāk pie viena eksperta uzvednes, tehniskas problēmas — pie cita, vispārīgi vaicājumi — pie vispārēja palīga. Spring AI maršrutēšanas darbplūsma saista šo loģiku kopā, izmantojot ChatClient un maršrutu karte.

Orchestrator-Workers ir sarežģītāks modelis, kas joprojām izvairās no nekontrolētas autonomijas. Centrālais “orkestratora” modelis sadala sarežģītu uzdevumu apakšuzdevumos, pēc tam specializēti darbinieki risina šos apakšuzdevumus, bieži vien paralēli. Kad darbinieki ir pabeiguši, viņu rezultāti tiek apvienoti gala rezultātā. Spring AI nodrošina pamatelementus šī modeļa ieviešanai, vienlaikus saglabājot skaidrus un paredzamus pienākumus.

Visbeidzot, novērtētāja-optimizētāja shēmā tiek izmantoti divi savstarpēji sadarbojošies modeļi. Viens modelis darbojas kā ģenerators, kas piedāvā risinājumus, savukārt otrs modelis uzvedas kā kritiķis vai recenzents, pārbaudot risinājumu atbilstoši skaidriem kritērijiem un sniedzot atsauksmes par uzlabojumiem. Šis cikls turpinās, līdz vērtētājs ir apmierināts, radot precizētu atbildi kopā ar risinājuma attīstības liecībām.

Labākā prakse, uzticamība un turpmākā attīstība

Spring AI modeļus un funkcijas papildina skaidra labākā prakse, kas izriet gan no Anthropic pētījumiem, gan Spring ekosistēmas ražošanas pieredzes. Vispārpieņemtais ieteikums ir sākt ar vienkāršāko darbplūsmu, kas vien var darboties, un sarežģītību slāņot tikai tad, ja tā nepārprotami sniedz pievienoto vērtību.

Jebkurā LLM iespējotā sistēmā uzticamībai jābūt galvenajai prioritātei. Tas nozīmē, ka, kad vien iespējams, jāizmanto tipam droša strukturēta izvade, validējiet atbildes, pievienojiet spēcīgu kļūdu apstrādi un atkārtotus mēģinājumus, kā arī nodrošiniet savus cauruļvadus ar metriku un žurnāliem. Kad kaut kas noiet greizi, jums vajadzētu būt iespējai saprast, kāpēc, un ātri to novērst.

Izstrādātājiem ieteicams rūpīgi izvērtēt latentuma un precizitātes kompromisus. Vairāku soļu ķēde vai novērtētāju ciklu pievienošana var ievērojami uzlabot kvalitāti, bet arī palielināt atbildes laiku un marķieru patēriņu. Paralēlizācija var palīdzēt atgūt ātrumu, bet tikai tad, ja uzdevumi ir patiesi neatkarīgi.

Turpmākais darbs Spring mākslīgā intelekta ekosistēmā padziļinās spējas modeļu kompozīciju, uzlabotas atmiņas stratēģijas un rīku integrāciju jomā. Vairāku modeļu, piemēram, ķēžu veidošanas, maršrutēšanas un novērtētāju ciklu, komponēšana ļauj veidot sarežģītus aģentus, kas joprojām paliek saprotami. Uzlabotā atmiņas pārvaldība pēta pastāvīgu kontekstu, efektīvus konteksta logus un ilgtermiņa zināšanu saglabāšanu.

Vēl viena aktīva joma ir rīku un modeļa konteksta protokola (MCP) integrācija. Standartizētas saskarnes ārējiem rīkiem un bagātīgāks protokols modeļa kontekstam nozīmē, ka aģenti var droši un elastīgi piekļūt jūsu pakalpojumiem, API un datu avotiem, kas visi ir jūsu pārvaldības un novērošanas steka ietvaros.

Pavasara mākslīgais intelekts plašākā platformā: Tanzu Gen AI Solutions

Organizācijām, kas balstās uz VMware Tanzu platformu, Spring AI ir arī Tanzu Gen AI risinājumu pamatā. Tanzu AI serveris, ko nodrošina Spring AI, piedāvā ražošanai gatavu vidi AI lietojumprogrammu izvietošanai Tanzu platformā ar uzņēmuma līmeņa drošību, pārvaldību un mērogojamību.

Šī integrācija vienkāršo piekļuvi tādiem modeļiem kā Amazon Bedrock Nova, izmantojot vienotu saskarni. Tā vietā, lai katra komanda veidotu savus modeļu savienojumus, platforma standartizē piekļuvi, drošības politikas un darbības rīkus. Spring AI nodrošina modeļu pārnesamību, savukārt Tanzu nodrošina stabilu infrastruktūru, automātisko mērogošanu un novērojamību, ko sagaidāt no modernas Kubernetes platformas.

Tā kā Spring AI ir atbildīgs par abstrakciju lietojumprogrammu līmenī, komandas var pārslēgties starp pakalpojumu sniedzējiem vai ieviest jaunus modeļus, nepārrakstot savu biznesa loģiku. Šī pielāgošanās spēja ir ļoti svarīga strauji mainīgajā mākslīgā intelekta vidē, kur bieži parādās jauni modeļi un cenas vai iespējas var strauji mainīties.

Tanzu Gen AI risinājumu drošības un pārvaldības funkcijas ietver šīs AI lietojumprogrammas tajās pašās uzņēmuma vadības sistēmās, kas tiek izmantotas citiem mikropakalpojumiem. Politikas, piekļuves kontrole, audita takas un atbilstības rīki dabiski attiecas arī uz LLM darba slodzēm, padarot jutīgāku vai regulētu lietošanas gadījumu veikšanu praktiskāku.

Visi šie slāņi — ietvars, grāmata, modeļi un platforma — saplūst viena mērķa sasniegšanai: ļaut Spring izstrādātājiem pievienot Java lietojumprogrammām augstas vērtības mākslīgā intelekta funkcijas, piemēram, virtuālos asistentus, viedo meklēšanu, teksta apkopošanu un ieteikumus, nezaudējot uzticamību vai kontroli. Ar Spring AI darbībā kā praktisko ceļvedi un Spring AI kā inženiertehnisko mugurkaulu jūs varat pāriet no eksperimentiem uz spēcīgiem mākslīgā intelekta darbinātiem pakalpojumiem, vienlaikus paliekot jau labi pazīstamajā Spring ekosistēmā.

salīdziniet, ja AWS ir kaut kas
saistīto rakstu:
Cómo comprobar si AWS está caído: estado, causas y alcance real
Related posts: