AI engineer
Od Pythonu a API cez fungovanie jazykových modelov, RAG a agentov až po evaluáciu, bezpečnosť a nasadenie, stavba aplikácií nad LLM.
Prihlás sa a sleduj, koľko z 5 úloh roadmapy máš hotových.
Pre programátorov a študentov informatiky, ktorí chcú stavať aplikácie nad jazykovými modelmi, nie trénovať modely, ale používať ich spoľahlivo v produkte. Roadmapa začína inžinierskymi základmi a fungovaním modelov, pokračuje prompt a context engineeringom, RAG a agentmi a končí evaluáciou, bezpečnosťou a nákladmi. Na konci postavíš a nasadíš AI aplikáciu, ktorú vieš zmerať, zabezpečiť a obhájiť jej cenu.
Kroky
Krok 1: Python a softvérové inžinierstvo
externé zdrojeAI engineer je najprv inžinier: čistý Python, typy, testy, Git, virtuálne prostredia a čitateľná štruktúra projektu. Modely sa menia každý štvrťrok, inžinierske návyky zostávajú. Hotovo je, keď máš na GitHube projekt s testami, lintom a README, ktorý si cudzí človek nainštaluje a spustí podľa návodu.
Zdroje
Krok 2: API a webové služby
externé zdrojeVäčšina AI aplikácií je služba, ktorá prijme požiadavku, zavolá model a vráti odpoveď. HTTP, REST, JSON, autentifikácia, asynchrónne volania a kontajnery sú základ, na ktorom stojí všetko ďalšie. Hotovo je, keď postavíš malé API vo FastAPI, zabalíš ho do Dockeru a vieš ho zavolať s kľúčom z klienta aj z príkazového riadku.
Zdroje
Krok 3: Ako fungujú jazykové modely
Tokeny, kontextové okno, transformer, predtrénovanie a doladenie, teplota a sampling, a z toho plynúce limity: halucinácie, citlivosť na formuláciu, nulová znalosť toho, čo nie je v kontexte. Bez tohto modelu v hlave budeš ladiť aplikáciu naslepo. Hotovo je, keď vieš vysvetliť, prečo model „nevie, čo nevie", odhadneš cenu požiadavky z počtu tokenov a vysvetlíš, čo spraví teplota 0 a 1.
Témy na portáli
Zdroje
Krok 4: Prompt a context engineering
Systémový prompt, štruktúra zadania, príklady (few-shot), vynútený formát výstupu a hlavne správa kontextu, čo modelu dať, čo vynechať a ako to usporiadať, aby zostal presný aj pri dlhých úlohách. Prompt je kód: verzuj ho a testuj. Hotovo je, keď máš prompty v repozitári so sadou testovacích vstupov a vieš ukázať, ako zmena promptu zmenila výsledky.
Úlohy
Zdroje
Krok 5: Embeddingy a RAG
externé zdrojeEmbedding prevedie text na vektor, v ktorom blízkosť znamená významovú podobnosť; RAG (retrieval-augmented generation) nájde relevantné dokumenty a dá ich modelu do kontextu namiesto spoliehania sa na jeho pamäť. Kvalita RAG stojí na delení dokumentov, vyhľadávaní a rerankingu, nie na modeli. Hotovo je, keď postavíš RAG nad vlastnými dokumentmi s vektorovou databázou a zmeriaš, ako často vráti správny zdroj.
Zdroje
Krok 6: Agenti a nástroje: function calling, MCP
externé zdrojeModel, ktorý vie volať funkcie, prestáva byť chatbotom a stáva sa agentom: hľadá, číta, počíta, zapisuje. Function calling, protokol MCP na pripájanie nástrojov, slučka plánuj, konaj, over a jasné hranice toho, čo agent smie. Hotovo je, keď postavíš agenta s dvoma-troma nástrojmi, ktorý dokončí viackrokovú úlohu, a vieš vysvetliť, kde ho zastavíš, keď sa zacyklí.
Zdroje
Krok 7: Evaluácia a observability
„Vyzerá to dobre" nie je metrika. Potrebuješ sadu testovacích prípadov, automatické hodnotenie (presné zhody, rubriky, model ako hodnotiteľ) a v prevádzke logovanie každého volania, vstupy, výstupy, latenciu, náklady. Falošne pozitívne a negatívne výsledky majú rôznu cenu a musíš ju poznať. Hotovo je, keď každá zmena promptu či modelu prejde evaluáciou s číslom a v produkcii vidíš, ktoré požiadavky zlyhali a prečo.
Úlohy
Zdroje
Krok 8: Bezpečnosť: prompt injection a dáta
Každý text, ktorý model číta (e-mail, webová stránka, dokument), môže obsahovať inštrukcie, a model ich nerozozná od tvojich. Prompt injection, únik dát cez nástroje, osobné údaje v promptoch a logoch, limity oprávnení agenta. Hotovo je, keď vieš ukázať prompt injection na vlastnej aplikácii, máš nasadené obmedzenia (oprávnenia, potvrdzovanie akcií, filtrovanie) a z logov sú odstránené citlivé údaje.
Úlohy
Zdroje
Krok 9: Nasadenie a náklady
externé zdrojeLatencia, cena za token, limity požiadaviek, streaming, cachovanie promptov, voľba medzi veľkým a malým modelom, lokálne modely pre citlivé dáta. Dobre navrhnutá aplikácia používa najmenší model, ktorý úlohu zvládne, a väčší len tam, kde to má zmysel. Hotovo je, keď vieš pre svoju aplikáciu odhadnúť mesačné náklady, znížiť ich cachovaním alebo menším modelom a zmerať, že kvalita neklesla.
Zdroje