Red Hat predstavio je Red Hat AI 3.5, novo izdanje svoje platforme za umjetnu inteligenciju, koje u središte stavlja sigurnost, nadzor, upravljanje resursima i kontrolu UI radnih opterećenja u poslovnim okruženjima. Tvrtke trebaju infrastrukturu koja može osigurati kontroliranu upotrebu modela, transparentnost troškova i resursa te pouzdan rad u hibridnom cloudu. Red Hat AI 3.5 usmjeren je upravo na pretvaranje UI-ja u upravljivu i nadziranu poslovnu uslugu. Jedna od važnijih novosti je EvalHub, koji omogućuje procjenu UI modela prije njihove implementacije, uključujući sigurnosna testiranja i izradu izvještaja potrebnih za dokazivanje usklađenosti s regulatornim zahtjevima. Validirani modeli u katalogu sada uključuju i rezultate sigurnosnih testova Garak, procjene izloženosti osobnih podataka te rizika od toksičnog sadržaja. Red Hat dodatno uvodi napredne mogućnosti nadzora UI infrastrukture. Nova nadzorna ploča omogućuje praćenje zdravlja inferencije, iskorištenosti GPU-a i performansi modela, a mjerenje potrošnje tokena po korisniku olakšava transparentno praćenje orištenja UI uslugama. Poseban naglasak stavljen je na multi-tenancy i dijeljenje GPU infrastrukture. Fair-share GPU scheduling omogućuje raspodjelu resursa između korisnika i radnih opterećenja, a prioritetno posluživanje zahtjeva omogućuje prednost aplikacijama kojima je potrebna obrada u stvarnom vremenu. AutoRAG povezuje poslovne izvore podataka s agentnim aplikacijama, uz podršku za višejezične dokumente, kontekstualno dohvaćanje podataka i vizualno testiranje RAG konfiguracija. Dostupni su i predlošci za česte scenarije, poput pregleda koda, obrade dokumenata i istraživačkih zadataka. Red Hat AI 3.5 dostupan je odmah, a Red Hat ga istodobno nudi i u sklopu Red Hat AI Factory with NVIDIA.