Kaks suurt mängijad tehisintellekti avatud ümberkujundamisest teatasime just koostöö laiendamisest tehisintellekti turgutamiseks. Red Hati ja Google Cloudi partnerluse edendamine on keskendunud tehisintellekti ärirakenduste loendi laiendamisele, ühendades avatud lähtekoodiga liidri avatud lähtekoodiga tehnoloogiad Google'i ja selle mudelite perekonna Gemma spetsialiseeritud infrastruktuuriga.
Üheskoos edendavad ettevõtted tehisintellekti skaleerimise kasutusjuhtumeid järgmiste kaudu
- Avatud lähtekoodiga llm-d projekti käivitamine, mille asutajakoostöö tegija on Google;
- Toetage vLLM-i Google Cloudi TPU-des ja GPU-toega virtuaalmasinates (VM-id), et parandada tehisintellekti järeldusi;
- Nullpäeva tugi vLLM-ile Gemma 3 mudelijaotustega;
- Red Hat AI järeldusserveri kättesaadavus Google Cloudis;
- AI agendi arendamine koos Red Hatiga Google'i Agent2Agent (A2A) protokolli kaastöötajana.
AI järelduste tugevdamine vLLM-iga
Näidates oma pühendumust valmisolekule alates nullpäevast Red Hat on nüüd üks esimesi testijaid Google'i avatud mudeliperes Gemma, alustades Gemma 3-st, pakkudes kohest tuge vllm. vLLM on avatud lähtekoodiga järeldusserver, mis kiirendab generatiivsete AI-rakenduste täitmist. VLLM-i juhtiva kaubandusliku panustajana muudab Red Hat selle platvormi tõhusamaks ja reageerivamaks gen AI rakenduste jaoks.
Pealegi, uh, google Cloud TPU-d, suure jõudlusega AI-kiirendid, mis integreerivad Google'i AI-portfelli, ühilduvad nüüd täielikult vLLM-iga. See integratsioon võimaldab arendajatel maksimeerida ressursse, saades samal ajal kiireks ja täpseks järelduseks vajaliku jõudluse ja tõhususe.
Tunnistades üleminekut tehisintellekti uuringutelt reaalsele kasutuselevõtule, seisavad paljud organisatsioonid silmitsi mitmekesise tehisintellekti ökosüsteemi keerukusega ja vajadusega võtta kasutusele rohkem hajutatud andmetöötlusstrateegiaid avatud lähtekoodiga projekt llm-d, mille asutaja on Google. VLLM-i kogukonna hoogu tuginedes on selle algatuse eesmärk juhatada sisse uus ajastu tehisintellekti põlvkonna järelduste tegemiseks. Eesmärk on võimaldada heterogeensete ressursside suuremat skaleeritavust, optimeerida kulusid ja suurendada töökoormuse tõhusust - seda kõike samal ajal pidevat innovatsiooni juhtides.
Ettevõtte tehisintellekti suurendamine kogukonnapõhise innovatsiooniga
Avatud lähtekoodiga kogukonna viimaste edusammude toomine ettevõtte keskkonda Red Hat AI järeldusserver nüüd see on saadaval Google Cloudis. sarnaselt Red Hati vLLM-i ettevõtte levitamisega aitab AI Inference Server ettevõtetel optimeerida mudelite järeldusi oma hübriidpilvekeskkonnas. Kasutades Google Cloudi usaldusväärset infrastruktuuri, saavad organisatsioonid juurutada tootmisvalmis generatiivseid tehisintellekti mudeleid, mis on nii väga reageerivad kui ka kulutõhusad.
Ühise pühendumuse esiletõstmine tehisintellekti avamiseks Red Hat andis oma panuse ka protokolli Agent2Agent (A2A) google'i 2rakenduse tasemel protokoll, mis hõlbustab agentide ja lõppkasutajate vahelist suhtlust erinevatel platvormidel ja pilvedes. A2A ökosüsteemis aktiivselt osaledes püüab Red Hat kiirendada innovatsiooni ja tagada, et tehisintellekti töövood jääksid dünaamiliseks ja tõhusaks AI agent.
Red Hat tippkohtumine
Vaadake Red Hat Summiti põhimärkusi, et kuulda Red Hati juhtide, klientide ja partnerite uusimaid sõnu:
- Kaasaegne infrastruktuur, mis on kooskõlas ettevõtte tehisintellektiga 20. mai, 8. - 10.00 EDT (YouTube)
- Hübriidpilv areneb äriinnovatsiooni edendamiseks 21. mai, 8.09.30 EDT (YouTube)


