Під час пандемії Джон Сіапно, досвідчений консультант з коледжу та кар'єри в районі затоки, почав створювати чат-бота для допомоги старшокласникам з питаннями про їхні освітні шляхи. Спочатку використовуючи технології IBM Watson, він зрозумів, що поява генеративного ІІ, такого як ChatGPT, прискорить розробку, дозволяючи учням з Академії Making Waves надсилати запитання AI Copilot для миттєвих консультацій перед більш персоналізованими зустрічами з консультантами. Незважаючи на покращення доступу учнів до консультацій, багато шкіл страждають від нестачі консультантів; майже 25% шкіл у США не мають жодного консультанта, а співвідношення учнів до консультанта в Каліфорнії залишається високим — 464 до 1 в порівнянні з рекомендованими 250 до 1. Коли генеративний ІІ набув популярності, виникла безліч рішень чат-ботів, часто з впізнаваними назвами, для допомоги студентам у плануванні вищої освіти. Однак експерти, зокрема Джулія Фріланд Фішер з Інституту Клейтона Крістенсена, застерігають нас від можливих недоліків заміни людських взаємодій ІІ. Вони підкреслюють важливість «соціального капіталу», зазначаючи, що хоча слабкі зв'язки, які формуються через мережі, можуть здаватися менш значними, вони життєво важливі для успіху. Політики та освітяни повинні врахувати, як зростання ІІ у сфері консультування в коледжах може обмежити можливості учнів для справжніх зв'язків. Академія Making Waves забезпечує, щоб її випускники були добре підготовлені до чотирирічних державних коледжів Каліфорнії, з 90% учнів, які прагнуть вищої освіти на тлі триваючих проблем з доступністю консультування. Патрик О’Доннел, генеральний директор, зазначив складнощі у наданні персоналізованої підтримки, враховуючи нестачу консультантів. У свою чергу, неприбуткова організація CareerVillage збирає поради щодо кар'єри, отримані від громади, і нещодавно інтегрувала ІІ у свої послуги. З введенням свого AI Career Coach, раніше протестованого за участю різних організацій, CareerVillage має на меті надати студентам широкий спектр кар'єрних порад в онлайні. Хоча інструменти на основі ІІ, такі як "Коуч для медсестер" в Університеті Флориди, забезпечують цінну підтримку, вони не можуть повністю замінити нюанси допомоги, яку надають людські радники.

Людські наставники відіграють ключову роль у розвитку зв'язків і розумінні індивідуальних потреб учнів. Проте організації, такі як MENTOR California, підкреслюють необхідність таких ресурсів ІІ, особливо для непідтримуваної молоді, яка не має доступу до людського наставництва. На тлі цих подій сенатор Каліфорнії Стів Паділла виступив із законопроєктом, що регулює AI-чат-ботів для дітей, забороняючи маніпулятивні тактики, які можуть сприяти нездоровим зв'язкам і залежності. З’явилися занепокоєння щодо випадків, коли чат-боти негативно впливали на вразливих користувачів. Хоча компаньйони на базі ІІ можуть становити ризики, експерти відзначають, що найбільша загроза походить від можливого зниження особистих взаємодій з дорослими наставниками. Оскільки студенти звикають до допомоги ІІ, вони ризикують соціальною ізоляцією та зниженням своїх мережевих здібностей. Щоб протидіяти цим ефектам, організації, такі як Making Waves, планують змінити свою увагу на сприяння соціальним зв'язкам, водночас надаючи консультації. У відповідь на ці занепокоєння як Making Waves, так і CareerVillage вживають заходів для зменшення ризиків. Making Waves має намір закрити свій AI Copilot, щоб пріоритетно зосередитися на технології, яка сприяє соціальним взаємодіям, тоді як CareerVillage впровадила обмеження на обсяг розмови свого інструмента ІІ, щоб забезпечити, щоб користувачі залишалися зосередженими на кар'єрних темах. В цілому експерти стверджують, що хоча ІІ може бути корисним інструментом, важливо залишатися свідомими ширших наслідків для соціального розвитку та добробуту учнів.