Human in The Loop

La vera potenza dei modelli linguistici alla base dell’intelligenza artificiale mi è diventata chiara quando ho smesso di utilizzare strumenti quali ChatGPT come fossero semplici motori di ricerca e ho iniziato ad interagire in modo più profondo, affinando le modalità con cui formulavo le richieste. L’idea distopica che l’AI possa sostituire l’umano sfuma gradualmente quando si sperimenta lo strumento sulla base delle proprie esigenze specifiche, conoscendone potenzialità e limiti reali.

Per la mia attività professionale ho trascorso molte ore negli ultimi mesi a scrivere prompt e a istruire un chatbot, uno strumento virtuale con interfaccia conversazionale di testo, affinché seguisse le mie istruzioni e funzionasse come tutor per un corso di formazione.

Questo lavoro è stato possibile grazie al fatto che gli LLM (modelli linguistici di grandi dimensioni) sono diventati incredibilmente potenti ma anche accessibili a chiunque, indipendentemente dalle competenze informatiche. Comprendere alcune tecniche di scrittura e sperimentarle è sufficiente, almeno per iniziare.

Negli ultimi mesi, il rilascio di API (Application Programming Interface) da parte delle grandi società di AI sta consentendo di integrare tecnologie come ChatGPT in altre applicazioni, permettendo così lo sviluppo rapido di strumenti personalizzati in vari settori.

Non esiste una manualistica consolidata per il prompting. In tutto il mondo si sta sperimentando, scambiando informazioni e commenti online, condividendo i prompt attraverso specifiche library, talvolta in formato Open. È una fase entusiasmante di questa tecnologia, che promette di rivoluzionare anche il campo dell’apprendimento.

Nella mia esperienza, scrivere un prompt nel contesto della formazione ha significato fornire una sequenza di istruzioni che la macchina deve seguire costantemente per orientarne il comportamento, ma ha riguardato anche scelte sostanziali che implicano il modello di apprendimento, principi etici, gli obiettivi e soprattutto il ruolo che deve svolgere l’utente nell’interazione con la macchina.

Progettare il ruolo dell’utente è centrale nel momento in cui ci stiamo accorgendo che l’utilizzo di chatbot può spesso portare a quello che in un articolo è stato definito “falling asleep at the wheel” (Dell’Acqua, 2022), ovvero il rischio che con l’aumento della qualità dell’AI, gli utenti possano diventare passivi, accettando l’output senza un’adeguata valutazione critica.

D’altronde questo rapporto tra fiducia nell’output, vantaggi (risultati strutturati in 3 secondi) e passività, può maggiormente esporre l’utente ad alcuni rischi insiti in questa tecnologia, come la produzione di contenuti errati e l’utilizzo di AI come strumento sostitutivo.

Per mantenere il focus delle conversazioni e ridurre il rischio di “allucinazioni” (risposte errate o fuorvianti generate dall’AI), specialmente negli strumenti AI dedicati alla formazione, è stato necessario delineare chiaramente i contenuti primari da utilizzare, i perimetri della conversazione e le modalità di interazione. Questo lavoro di dettaglio, sul prompt e sui contenuti, serve per mitigare (ma non cancellare) i rischi, gli errori e i comportamenti che la macchina talvolta agisce nonostante le nostre istruzioni.

L’altro aspetto su cui poter lavorare è l’interazione. Cercare di mantenere “the human in the loop“, ovvero garantire che l’AI funzioni come strumento e non come sostituto, è una delle espressioni utilizzate nelle interessanti ricerche di Ethan Mollick e Lilach Mollick della Wharton School of the University of Pennsylvania. I loro studi analizzano limiti e potenziali dell’utilizzo degli LLM nell’apprendimento, soprattutto nei prompt per il mentoring, il coaching e il tutoring.

Un chatbot nel campo dell’apprendimento aziendale può infatti funzionare molto bene se riesce a spingere l’utente a giocare un ruolo attivo, specialmente nel settore delle competenze manageriali. Può rafforzare concetti di base, stimolare la riflessione sul comportamento in azienda e nel ruolo, accompagnare l’utente nell’individuazione di obiettivi di miglioramento.

In questo modo è possibile generare un livello di interazione molto più avanzato, non immaginabile fino a sei mesi fa. Le anteprime dei prossimi aggiornamenti dei sistemi AI ne lasciano già intravedere ulteriori e affascinanti sviluppi.

L’accessibilità della tecnologia e il prompting rappresentano un’opportunità straordinaria. Consentono di utilizzare le potenzialità di uno strumento generalista come ChatGPT, per rispondere agli obiettivi specifici di un progetto. Si tratta di un’innovazione che può coinvolgere non solo gli esperti IT ma soprattutto gli specialisti di ogni settore. Sarà quindi fondamentale l’influenza dei formatori nel progettare, disegnare e sperimentare strumenti AI, nel decidere i modelli di interazione e riflettere su se e come cercare di garantire “the human in the loop”.