Il dottor Asaf Tzachor, fondatore del programma Aviram Sustainability and Climate presso l'Università di Reichman, insieme a ricercatori provenienti da Stati Uniti, Regno Unito, Kenya, Nigeria e Colombia, ha esaminato attentamente l'affidabilità delle informazioni e della consulenza professionale fornita dal popolare chatbot ChatGPT (versioni 3.5 e 4.0) agli agricoltori in Africa. I ricercatori hanno identificato imprecisioni che potrebbero portare a passi falsi in agricoltura e perdite di raccolto.
Nel loro articolo per Nature Food , mettono in guardia contro l’uso immediato di modelli di intelligenza artificiale generativa in agricoltura, temendo che gli agricoltori possano attuare raccomandazioni errate che potrebbero innescare crisi alimentari. I ricercatori raccomandano invece un processo di sviluppo più ottimale per i modelli di intelligenza artificiale in agricoltura che includa monitoraggio e test approfonditi prima che questi modelli vengano ampiamente implementati.
Poco dopo il lancio di ChatGPT all’inizio del 2023, il dottor Tzachor ha convocato un team internazionale di ricercatori provenienti da centri di ricerca agricola in Nigeria, Kenya, Colombia, Francia, Inghilterra e Stati Uniti. Hanno osservato che gli agricoltori dei paesi in via di sviluppo avevano iniziato a consultare il modello di intelligenza artificiale per ottenere consigli professionali su agronomia e botanica.
Questi agricoltori, provenienti da aziende agricole di piccole e medie dimensioni dell’Africa equatoriale, del Sud-est asiatico e del Sud America, hanno accesso a Internet e all’interfaccia utente OpenAI. Il team di ricerca ha cercato di valutare se l'innovativo chatbot potesse soppiantare o addirittura sostituire gli agenti di divulgazione agricola che formano e consultano gli agricoltori.
Questi agenti, noti come "estensionisti", includono centinaia di migliaia di agronomi e botanici professionisti, esperti di malattie delle piante e consulenti in materia di irrigazione, fertilizzazione, commercializzazione dei prodotti e commercio.
"Gli estensori sono stati essenziali nel diffondere conoscenze agricole avanzate e in molti casi guidano i piccoli agricoltori di tutto il mondo nell'implementazione di metodi per l'intensificazione sostenibile delle colture. Tengono conferenze e seminari su nuovi erbicidi e pesticidi, forniscono consigli sulle strategie e sulla pianificazione dell'irrigazione e della fertilizzazione esperimenti sul campo e consigliare canali di marketing locali e strategie di esportazione per i prodotti agricoli", spiega il dottor Tzachor.
A livello globale, circa 570 milioni di aziende agricole di piccole e medie dimensioni necessitano di formazione in vari settori agricoli. Tuttavia, gli estensionisti spesso affrontano sfide significative, soprattutto nei paesi in via di sviluppo. Queste sfide includono barriere linguistiche, problemi di traduzione, infrastrutture stradali inadeguate, mancanza di trasporti pubblici e reti di comunicazione obsolete o inesistenti.
I consulenti agricoli faticano a raggiungere le aziende agricole piccole e remote, mentre i piccoli agricoltori in Africa e Sud America hanno difficoltà a frequentare seminari professionali a centinaia di chilometri di distanza. Le agenzie di estensione, spesso con sede nelle capitali, non dispongono delle risorse e del personale per aggiornare i propri materiali di consulenza e rimanere al passo con i nuovi metodi.
In questo contesto, il gruppo di ricerca ha esplorato se un modello di intelligenza artificiale generativa potesse compensare la mancanza di servizi di consulenza agricola. Tuttavia, ciò che era iniziato con un cauto ottimismo si è concluso con indicazioni errate, imprecisioni e severi avvertimenti per gli utenti.
In primo luogo, i ricercatori hanno incaricato il chatbot di raccomandare misure di controllo e trattamento per il verme dell’autunno, un insetto dannoso che neutralizza i meccanismi di difesa delle piante e causa danni per miliardi di dollari ai raccolti di mais in tutto il mondo. I modelli precedenti di OpenAI (3.5 e 4.0) fornivano consigli ambigui sull'uso dei pesticidi.
In un’altra serie di domande, questa volta poste dai coltivatori di radici di manioca della Nigeria, il più importante produttore di manioca dell’Africa, i ricercatori hanno valutato i metodi raccomandati per coltivare la pianta, che svolge un ruolo cruciale nella sicurezza nutrizionale di decine di milioni di persone nel continente. . In questo caso, ChatGPT ha suggerito l'uso di erbicidi, ma ha sbagliato nei tempi di applicazione dei prodotti chimici, il che porterebbe a danni alle colture e crisi alimentari se gli agricoltori avessero seguito i suoi consigli.
"Il problema con le nostre scoperte va oltre gli errori dell'algoritmo stesso", secondo il dottor Tzachor. "Molti ci avevano avvertito di potenziali errori e imprecisioni. Il problema fondamentale è l'assenza di qualsiasi tutela contro l'uso diffuso di modelli linguistici di grandi dimensioni, e dell'intelligenza artificiale più in generale, in un sistema sensibile come l'agricoltura.
"Non esiste alcun controllo su come vengono utilizzati tali modelli, nessuna valutazione della loro idoneità specifica al contesto, nessuna responsabilità per le conseguenze di un uso errato o per le azioni intraprese sulla base delle loro raccomandazioni e, in generale, nessuna assunzione di responsabilità.
"Nel caso di questo studio non si tratta di usare il chatbot per comporre una canzone, una sceneggiatura o una tesi. Si tratta di sicurezza alimentare e di gestione delle aziende agricole. Mentre il fascino dell'algoritmo è chiaro , comporta rischi sostanziali."
In risposta a questa sfida, i ricercatori hanno proposto un processo di sviluppo e implementazione idealizzato per modelli di intelligenza artificiale generativa in agricoltura.
Dr. Tzachor, preside ad interim della School of Sustainability e direttore accademico del programma Aviram Sustainability and Climate presso l'Università di Reichman, "Da un lato vediamo aziende agricole ed estensioni che consultano il modello di intelligenza artificiale disponibile gratuitamente. D'altro canto, questo l'utilizzo comporta errori, incertezze e stime che l'agricoltura non può tollerare.
"Scettici e critici parlano di imprecisioni, ma pochi affrontano le conseguenze di queste imprecisioni per le popolazioni vulnerabili, come i piccoli proprietari terrieri, in settori critici come l'agricoltura. Inoltre, la questione della responsabilità, la questione di chi è responsabile di garantire l'uso sicuro delle questi modelli rimangono in gran parte non esaminati."