Коалиция от държавни прокурори общо от цялата Съединени щати официално предупреди водещи лаборатории за изкуствен интелект, по-специално Microsoft, OpenAI и Google, като ги призова да адресират сериозните проблеми с техните големи езикови модели (ГЕМ). Тези системи, известни с напредналите си способности да разбират и генерират текст, подобен на човешкия, понякога произвеждат „заблуждаващи резултати“ или халюцинации на ИИ — отговори, които са неточни, подвеждащи или напълно измислени. Такива грешки представляват риск за разпространение на невярна или вредна информация, представена като факт. Прокурорите подчертаха юридическите и етичните опасности тези неточности крият, отбелязвайки, че подвеждащите резултати могат да нарушат регулации и да доведат до потенциални правни последици за отговорните компании. Това предупреждение отбелязва ключов момент в управлението на изкуствения интелект, като отразява засилващия се контрол върху прозрачността, надеждността и отговорността при използването на AI технологии, които са публично внедрени. Големи езикови модели на Microsoft, OpenAI и Google захранват множество широко използвани приложения, което засилва призивите за по-строги мерки за ограничаване на халюцинациите и подобряване на механизмите за надзор с цел защита на потребителите, бизнесите и секторите, зависещи от точна AI информация. Тази намеса също сигнализира за по-широки обществени опасения относно потенциала на AI да ерозира общественото доверие, да усили фалшивите narrativи и да бъде злоупотребяван злонамерено. Юридическите власти предприемат действия, за да гарантират, че развитието на AI съответства на регулаторните стандарти и обществените интереси.

В отговор се очаква AI общността да си сътрудничи с регулаторите за баланс между иновациите и отговорността, като поставят акцент върху прозрачността, точността и безопасността на потребителите като централен елемент на етичната употреба на AI. Въпреки че компаниите за изкуствен интелект са признавали халюцинациите и са направили подобрения — като по-добри методи за обучение и човешки надзор — засиленото правно наблюдение показва, че са нужни още по-усилени усилия за предотвратяване на вредни или незаконни последствия. Тази ситуация подчертава сложността на внедряването на AI и необходимостта от сътрудничество между технологичните разработчици, политиците и юридическите институции за ефективно регулиране на бързо развиващите се технологии с широко обществено въздействие. Докато AI става все по-интегрирано в области като обслужване на клиенти, създаване на съдържание и подкрепа при вземане на решения, справянето с заблуждаващите резултати става все по-спешно. Решенията вероятно ще включват технологични подобрения, по-голяма прозрачност, ясни политики за използване и по-силни рамки за надзор. В заключение, наскорошното предупреждение от държавните прокурори на щатите към водещи AI лаборатории представлява ключова стъпка в управлението на AI, изискваща конкретни действия за ограничаване на халюцинациите и подчертаващата нарастващото значение на правните механизми за насърчаване на отговорен и безопасен напредък в тази сфера. Този момент дава възможност всички заинтересовани страни да се ангажират повторно със етичните принципи при развитие на AI и да гарантират, че тези мощни инструменти служат надеждно и безопасно на обществото.