Počas pandémie Jon Siapno, veterán kariérneho poradcu na vysokých školách v oblasti Bay Area, začal vytvárať chatbot, ktorý má pomôcť študentom stredných škôl s otázkami týkajúcimi sa ich vzdelávacích ciest. Počiatočne používal IBM Watson, ale uvedomil si, že príchod generatívnej AI, ako je ChatGPT, urýchli vývoj, čo umožní študentom v Making Waves Academy posielať správy AI Copilotovi na okamžité poradenstvo pred osobnejšími stretnutiami s poradcami. Napriek zlepšenej dostupnosti poradenstva pre študentov mnoho škôl nemá poradcov; takmer 25 % amerických škôl nemá žiadnych a pomer študentov na poradcu v Kalifornii zostáva vysoký – 464:1 v porovnaní s odporúčanými 250:1. Ako generatívna AI získavala popularitu, objavilo sa množstvo chatbotových riešení, často s príbuznými názvami, ktoré majú pomôcť študentom s plánovaním vyššieho vzdelania. Experti, vrátane Julie Freeland Fisherovej z inštitútu Clayton Christensen, varujú pred potenciálnymi nevýhodami nahrádzania ľudských interakcií AI. Zdôrazňujú dôležitosť „sociálneho kapitálu“, pričom poukazujú na to, že aj keď slabé väzby vytvorené sieťovaním môžu pôsobiť menej významne, sú kľúčové pre úspech. Tvorcovia politík a pedagógovia musia zvážiť, ako vzostup AI v poradenstve na vysokých školách môže obmedziť príležitosti študentov na skutočné spojenia. Making Waves Academy zabezpečuje, aby jej absolventi boli dobre pripravení na štvoročné verejné vysoké školy v Kalifornii, pričom 90 % z nich pokračuje vo vyššom vzdelávaní aj napriek trvajúcej výzve obmedzenej dostupnosti poradenstva. Patrick O’Donnell, generálny riaditeľ, poznamenal, že poskytovanie osobnej podpory je náročné kvôli nedostatku poradcov. Zároveň nezisková organizácia CareerVillage zhromažďuje rady o kariére od verejnosti a nedávno integrovala AI do svojich služieb. S predstavením svojho AI Career Coacha, ktorý bol predtým testovaný s príspevkami rôznych organizácií, CareerVillage plánuje ponúknuť rozsiahle kariérne poradenstvo študentom online. Zatiaľ čo nástroje poháňané AI, ako „Coach for Nurses“ na Univerzite Floridy, poskytujú cennú podporu, nedokážu plne nahradiť nuansovanú pomoc ľudských poradcov.

Ľudskí mentori zohrávajú kľúčovú úlohu pri budovaní spojení a pochopení individuálnych potrieb študentov. Napriek tomu organizácie ako MENTOR California zdôrazňujú nevyhnutnosť takýchto AI zdrojov, najmä pre znevýhodnenú mládež, ktorá nemá prístup k ľudskému mentorstvu. Vo svetle týchto vývojov kalifornský štátny senátor Steve Padilla predstavil legislatívu na reguláciu AI chatbotov pre deti, ktorá zakazuje manipulačné taktiky, ktoré by mohli podporovať nezdravé väzby a závislosti. Objavili sa obavy z prípadov, keď chatboti negatívne ovplyvnili zraniteľných používateľov. Hoci AI spoločníci môžu predstavovať riziká, experti uvádzajú, že naliehavejšie nebezpečenstvo pramení z možného poklesu osobných interakcií s dospelými mentormi. Keď si študenti zvyknú na pomoc AI, riskujú sociálnu izoláciu a zníženie schopnosti sieťovania. Aby sa tieto efekty zmiernili, organizácie ako Making Waves plánujú zamerať svoju pozornosť na podporu sociálnych spojení, pričom stále ponúkajú poradenstvo. V reakcii na tieto obavy podnikajú Making Waves a CareerVillage kroky na zmiernenie rizík. Making Waves má v úmysle zrušiť svoj AI Copilot s cieľom prioritizovať technológiu, ktorá uľahčuje sociálne interakcie, zatiaľ čo CareerVillage implementovalo obmedzenia týkajúce sa rozsahu konverzácie svojho AI nástroja, aby sa zabezpečilo, že používatelia ostanú zameraní na kariérne diskusie. Celkovo experti tvrdia, že aj keď AI môže byť užitočným nástrojom, je nevyhnutné udržiavať vedomie o širších dopadoch na sociálny rozvoj a blaho študentov.