Arhitectura Transformer: folosește autoatenția pentru a înțelege relațiile dintre toate cuvintele dintr-o propoziție. Limitări ale LLM-urilor: nu au acces la date în timp real, pot „halucina”, nu pot executa acțiuni în mod autonom. Ingineria solicitărilor O solicitare este modul în care comunici cu un LLM. Solicitările bine formulate îmbunătățesc semnificativ calitatea rezultatelor generate de AI.