Under pandemien begyndte Jon Siapno, en erfaren college- og karriererådgiver i Bay Area, at skabe en chatbot for at hjælpe gymnasieelever med spørgsmål om deres uddannelsesveje. I starten brugte han IBM's Watson, men han indså, at ankomsten af generativ AI som ChatGPT ville fremskynde udviklingen, hvilket gjorde det muligt for eleverne på Making Waves Academy at sende beskeder til en AI Copilot for øjeblikkelig vejledning inden mere personlige møder med rådgivere. På trods af at forbedre adgangen til vejledning for eleverne, mangler mange skoler rådgivere; næsten 25 % af de amerikanske skoler ansætter ingen, og forholdet mellem studerende og rådgivere i Californien er fortsat højt med 464 til 1 i forhold til det anbefalede 250 til 1. Da generativ AI fik gennemslagskraft, dukkede der mange chatbot-løsninger op, ofte med relaterbare navne, for at hjælpe studerende med planlægningen af videregående uddannelse. Eksperter, herunder Julia Freeland Fisher fra Clayton Christensen Institute, advarer dog om de mulige ulemper ved at erstatte menneskelig interaktion med AI. De fremhæver betydningen af "social kapital" og understreger, at mens svage bånd, der skabes gennem netværk, måske virker mindre betydningsfulde, er de afgørende for succes. Lovgivere og undervisere må overveje, hvordan stigningen af AI i college-rådgivning kan begrænse studerendes muligheder for ægte forbindelser. Making Waves Academy sikrer, at dens kandidater er godt forberedte til Californiens offentlige colleges på fire år, med 90 % der forfølger videregående uddannelse trods den vedvarende udfordring med begrænset rådgivningstilgængelighed. Patrick O’Donnell, CEO, bemærkede vanskeligheden ved at give personlig støtte givet rådgiverens mangel. Samtidig har nonprofitorganisationen CareerVillage indsamlet crowdsourcet karriererådgivning og har for nylig integreret AI i sine tjenester. Med introduktionen af deres AI Career Coach, som tidligere blev pilottestet med input fra forskellige organisationer, sigter CareerVillage mod at tilbyde omfattende karriererådgivning til studerende online. Mens AI-drevne værktøjer som "Coach for Nurses" ved University of Florida giver værdifuld støtte, kan de ikke fuldt ud efterligne den nuancerede assistance fra menneskelige rådgivere.

Menneskelige mentorer spiller en afgørende rolle i at fremme forbindelser og forstå studerendes individuelle behov. Ikke desto mindre understreger organisationer som MENTOR California nødvendigheden af sådanne AI-ressourcer, især for udsatte unge uden adgang til menneskelig mentorskab. I lyset af disse udviklinger introducerede den californiske stats senator Steve Padilla lovgivning for at regulere AI-chatbots for børn og forhindre manipulationsmetoder, der kan fremme usunde tilknytninger og afhængighed. Bekymringer er opstået fra tilfælde, hvor chatbots har påvirket sårbare brugere negativt. Selvom AI-venner kan indebære risici, bemærker eksperter, at den mere presserende fare stammer fra det mulige fald i ansigt-til-ansigt interaktioner med voksne mentorer. Efterhånden som studerende bliver mere vant til AI-assistance, risikerer de social isolation og nedsat netværksevne. For at modvirke disse effekter planlægger organisationer som Making Waves at skifte fokus mod at fremme sociale forbindelser, samtidig med at de tilbyder vejledning. Som svar på disse bekymringer tager både Making Waves og CareerVillage skridt til at mindske risici. Making Waves har til hensigt at afvikle sin AI Copilot for at prioritere teknologi, der fremmer sociale interaktioner, mens CareerVillage har implementeret begrænsninger på samtalens omfang i sit AI-værktøj for at sikre, at brugerne forbliver fokuseret på karrierediskussioner. Generelt hævder eksperter, at selvom AI kan være et nyttigt værktøj, er det vigtigt at bevare bevidstheden om de bredere implikationer for studerendes sociale udvikling og velvære.