Durante la pandemia, Jon Siapno, un esperto consulente universitario e professionale nella Bay Area, ha iniziato a creare un chatbot per aiutare gli studenti delle scuole superiori con domande sui loro percorsi educativi. Inizialmente utilizzando Watson di IBM, si è reso conto che l'arrivo dell'IA generativa come ChatGPT avrebbe accelerato lo sviluppo, consentendo agli studenti della Making Waves Academy di inviare messaggi a un AI Copilot per ricevere indicazioni istantanee prima di incontri più personalizzati con i consulenti. Nonostante il miglioramento dell'accesso degli studenti alle consulenze, molte scuole mancano di consulenti; quasi il 25% delle scuole statunitensi non ne impiega, e il rapporto studenti-consulenti in California rimane alto, a 464 a 1, rispetto al rapporto consigliato di 250 a 1. Con il guadagno di attenzione dell'IA generativa, sono emerse numerose soluzioni chatbot, spesso con nomi evocativi, per assistere gli studenti nella pianificazione dell’istruzione superiore. Tuttavia, esperti, tra cui Julia Freeland Fisher del Clayton Christensen Institute, ci avvertono dei potenziali svantaggi dell'approccio che sostituisce le interazioni umane con l'IA. Sottolineano l'importanza del "capitale sociale", enfatizzando che, mentre i legami deboli formati attraverso il networking possono sembrare meno significativi, sono cruciali per il successo. I legislatori e gli educatori devono considerare come l'ascesa dell'IA nella consulenza universitaria potrebbe limitare le opportunità degli studenti di creare connessioni genuine. La Making Waves Academy si assicura che i suoi diplomati siano ben preparati per i college pubblici di quattro anni della California, con il 90% che prosegue nell'istruzione superiore nonostante la continua sfida della disponibilità limitata di consulenti. Patrick O'Donnell, il CEO, ha notato la difficoltà nel fornire supporto personalizzato dato il numero ridotto di consulenti. Insieme, la nonprofit CareerVillage sta raccogliendo consigli professionali da fonti esterne e ha recentemente integrato l'IA nei suoi servizi. Con l'introduzione del loro AI Career Coach, precedentemente testato con il contributo di diverse organizzazioni, CareerVillage mira a offrire un ampio supporto professionale agli studenti online. Sebbene gli strumenti guidati dall'IA come "Coach for Nurses" all'Università della Florida forniscano supporto prezioso, non possono replicare completamente l'assistenza sfumata degli advisor umani.

I mentori umani svolgono un ruolo cruciale nel favorire le connessioni e comprendere le esigenze individuali degli studenti. Tuttavia, organizzazioni come MENTOR California sottolineano la necessità di tali risorse IA, specialmente per i giovani svantaggiati privi di accesso a un mentoring umano. Tra questi sviluppi, il Senatore della California Steve Padilla ha introdotto una legislazione per regolamentare i chatbot per bambini, vietando tattiche di manipolazione che potrebbero favorire attaccamenti malsani e dipendenza. Sono sorte preoccupazioni da casi in cui i chatbot hanno negativamente influenzato utenti vulnerabili. Sebbene i compagni IA possano presentare rischi, gli esperti notano che il pericolo più pressante deriva dalla possibile diminuzione delle interazioni faccia a faccia con mentori adulti. Man mano che gli studenti si abituano sempre di più all'assistenza dell'IA, rischiano di isolamento sociale e ridotta capacità di networking. Per contrastare questi effetti, organizzazioni come Making Waves prevedono di spostare il loro focus verso la promozione delle connessioni sociali, pur continuando a offrire orientamenti. In risposta a queste preoccupazioni, sia Making Waves che CareerVillage stanno prendendo misure per mitigare i rischi. Making Waves intende ritirare il proprio AI Copilot per dare priorità a tecnologie che facilitano le interazioni sociali, mentre CareerVillage ha implementato limitazioni nell'ambito delle conversazioni del proprio strumento IA per garantire che gli utenti rimangano concentrati sulle discussioni professionali. Nel complesso, gli esperti affermano che, mentre l'IA può essere uno strumento utile, è essenziale mantenere la consapevolezza delle implicazioni più ampie per lo sviluppo sociale e il benessere degli studenti.