Új nyílt AI-native stack Kubernetes-re az agentekhez
| Olvasási idő: < 1 perc |
A Google Cloud bemutatott egy új nyílt forráskódú szoftver stacket Kubernetes-re, amely segít a szervezeteknek nagyszabású production AI workloadok hatékony futtatásában. Ez a stack olyan eszközöket tartalmaz, mint az OpenRL a reinforcement learninghez és az llm-d a distributed inference-hez az elpazarolt hardver és a lassú válaszidők megoldására. Lehetővé teszi a csapatok számára, hogy biztonságosan és költséghatékonyan futtassanak nyílt súlyú modelleket a saját privát környezetükben. Ennek a kiadásnak a fő jelentősége, hogy áthidalja a szakadékot a gépi tanulási kísérletezés és a vállalti infrastruktúra között. Végső soron ez segít a cégeknek fejlett AI agenteket építeni.
