Azure AI Services, ismerkedés
Végre hozzáférhető bárki számára a Microsoft Open AI megoldások tömkelege (nekem még most regisztrálnom kellett, de a hozzáférést megadták 24 órán belül) így elkezdtem kísérletezni, tanulni.
Az első lépések megtétele nem túl nehéz, a bonyodalmat az okozza, hogy rengeteg az új termék és azt se tudod melyik mire jó, melyiket hol kell használni.
Ennek okai a következők.
Az Azureon belül megkülönböztetünk:
Azure AI Services szolgáltatásokat:
Persze két különböző menüből és ikonnal is elérhető, hogy jobban eltévedj: (gondolom a folyamatos fejlesztés/átalakítások az oka)
Van Azure AI Studio-t:
Van Azure Open AI Studio:
És ha sokat nyomogatod a portált, akkor észre veszed, hogy több terméknek is van Studio alportálja:
Ezekben a Studiokban vannak különböző playgroundok, melyek segítségével elsajátíthatod az alapokat.
Nyilván jó ha tudod előtte, hogy hogyan néznek ki a szolgáltatások és melyik mire jó?
Pont ezért megkértem a ChatGPT-t, hogy ugyan rajzolja már fel ezen szolgáltatások összességét, de neki sem sikerült teljesen, mert hiányzik az ábráról az Azure OpenAI Services:
Ezért megkértem a ChatGPT-t hogy rajzolja le, hogy mi az összefüggés az Azure AI Services és az Azure Open AI termékek között, ez már egy tetszetős ábra lett, sztem ezzel már jobban érthető (nekem :) )
A fenti ábrán már jól látszik, hogy van a múlt a klasszikus AI megoldások amikor feltanítom valamivel valamire a gépet (pl. mutatok neki sok képet és megkeresi az anomáliákat) és van a generative AI ami a jövő és már a jelen ami már "emberszerűen" képes komplexebb tartalom előállítására.
A Chat GPT ezt így fogalmazza meg:
"A generatív AI, mint az Azure OpenAI Service, különbözik a hagyományos Azure AI szolgáltatásoktól azzal, hogy előre kiképzett modelleket használ komplex, emberihez hasonló tartalom generálására szöveg, kép, és kód formájában. Míg a hagyományos AI szolgáltatások specifikus feladatokra, mint képfelismerés vagy nyelvi elemzés, koncentrálnak előre definiált paraméterekkel, a generatív AI modellek képesek új, egyedi tartalmak létrehozására minimális bemenettel, alkalmazkodva a felhasználói igényekhez széles körű alkalmazási területeken."
No és ezen ki bevezető után, kanyarodjunk vissza hogyan is ismerkedtem meg az Azure OpenAI szolgáltatásokkal.
Nem volt nehéz.
Azure OpenAI Studio portálon végigcsináltam a Chat Playgroundot és próbáltam összerakni, hogy mikor milyen szolgáltatást kell mögé rakni, amúgy az automatizmus csinált mindent.
Lépések:
1. Készíts egy Azure OpenAI Services projectet:
Arra figyelj, hogy már itt el lehet hasalni! Ugyanis ha megszokásból bepakolod a projektet West vagy North EU-ba akkor a GPT4 model nem lesz elérhető a projektben! Ennek egyik oka, hogy oda még nem deployolták.
Itt lehet beszaladni a málnásba, de ott a cikk-re is a hivatkozás, csak el kell olvasni :)
itt a cikk: Azure OpenAI Service models - Azure OpenAI | Microsoft Learn
itt a lényeg:
Szóval a projektet érdemes pl. Francia adatközpontba rakni, ha GTP-4-et akarsz használni! Aztán majd picit később lesz ez máshol is, csak még friss ropogós, most készül :)
Szóval vissza az 1-es pontra, nálam így néz ki a projekt:
2. Azure OpenAI Studio:
3. Deploy model:
4. Prompt elkészítése és további paraméterek megadása
5. Etetés saját adatforrásból, itt figyelj rá, hogy AI Search is legyen ebben az esetben telepítve, free tier nem elég!
6. Megírja a sample kódot is hozzá:
7. Beszéd beállítása, itt telepítened kell előtte a Speech szolgáltatást természetesen!
8. Deploy (jobb felső sarokban) létrehoz egy webapp-ot, itt akár az ingyenes csomaggal is működik
9. Webapp települ és Azure AD / Entra ID Auth települ, itt nem elég az Azure Owner jog, Application Administrator role is kell az Entra ID tartományban! (sanos ez nem mindekinek egyértelmű inkább leírom: ezért mert Azure Owner vagy Contributor az user, attól még nincs joga az Azure AD-ra is.)
A deploy során meg lehet adni, hogy szeretnéd-e megőrizni a chat history, ha igennel válaszolsz, akkor CosmosDB szolgáltatás is fog települni, ennek is lesz költsége!
Megjegyzések
Megjegyzés küldése