За последние несколько месяцев я подробно изучил глоссарии по АИ, чтобы ознакомиться с лексикой, относящейся к генеративной АИ- интересной области. Несмотря на то, что я глубоко изучил вопрос о том, кто может обладать большими знаниями, чем средний американец в области АИ, я полагал, что фундаментальные понятия, связанные с генеративной АИ, широко известны и понятны. Когда я упомянул о том, что инструменты АИ имеют свойство" галлюцинировать", преподаватель недоброжелательно посмотрел на меня и попросил пояснить. В просторечии" галлюцинация"- это термин, с которым все должны быть знакомы при обсуждении работы сAI. Проще говоря, он означает склонность движковAI, таких какOpenAI'sChatGPT, генерировать контент, который может звучать правдиво, но не основан на реальности. Недавно Федеральная торговая комиссия США инициировала расследование в отношении компании OpenAI в связи с опасениями, что ее чатбот может делать ложные заявления о физических лицах. Термин" галлюцинация" появился в контекстеAI в 2018 году, когда исследователи GoogleDeepMindresearchers определили его. Они обнаружили, что нейромашинная система перевода( НМТ) может производить очень аберрантные переводы, которые значительно отличаются от исходного материала. Даже без инженерного обоснования очевидно, что эти системы демонстрируют серьезные недостатки. Большинство словарей дают более четкое определение понятия" галлюцинация". Это может включать в себя различные сценарии, например, модельAI, предоставляющая рецепты плодов вместо информации о посадке плодовых деревьев, генерирующая фальшивые научные цитаты, сфабрикованный анализ данных или вымышленные факты о событиях, не обнаруженных при исследовании данных. Причины этого явления до конца не выяснены, но их можно отнести к неточностям данных, информационным пробелам и неправильной классификации. Для сохранения справедливости я запросил комментарий от ChatGPT относительно значения термина" галлюцинация" в контекстеAI. Вот его ответ: В контекстеAI" галлюцинация"- это метафорический термин, используемый для описания генерации контента или информации, не основанной на непосредственном наблюдении или данных реального мира. Когда системаAI" галлюцинирует", она выдает результаты, которые могут имитировать паттерны или особенности, найденные в обучающих базах данных, но не основанные на реальности. Термин" галлюцинация" не является исключительным дляAI, он заимствован из области психологии. В психологии галлюцинация относится к сенсорному опыту или восприятию, которые происходят без внешних стимулов. В контексте ИИ термин используется метафорически для описания ситуаций, в которых генерируемые результаты отклоняются от реальности или вводят элементы, отсутствующие в исходных данных. Например, при генерации изображений система ИИ может создавать изображения с сюрреалистическими и фантастическими элементами, не связанными с наблюдаемыми объектами и сценами, представленными в обучающих данных. Термин" галлюцинация" подчеркивает возможность создания системами ИИ результатов, которые не подчиняются прямому наблюдению или эксплицитным Это отражает способность алгоритмовAIэкстраполировать, комбинировать или изобретать новые схемы, приводящие к неожиданным или воображаемым результатам.

Такое длинное и развернутое объяснение отконверсацииAIможетбытьвоспринятокакпопыткасообщить, чтоАИфабрикуетинформацию. Помоемумнению, этограничитсвоюоскорбительность. Теперьрассмотримдругиенезаслуживающие внимания разработки в областиAI. На этой неделе оба исследовательских центра PewResearchCenter и McKinsey опубликовали отчеты о том, какAI может повлиять на рабочие места и работников. Хотя многие вопросы остаются без ответа, исследование Pewstudy показывает, что американские работники больше надеются, чем беспокоятся о влиянииAI на их рабочие места. Исследование было направлено на выявление отраслей и работников, наиболее подверженных воздействиюAI, характеризуя рабочие места с высокой степенью воздействия как те, гдеAI может полностью выполнять или переходить к наиболее важным видам деятельности. Работники информационных технологий, например, с большей вероятностью верят, чтоAI скорее поможет, чем навредит им лично. Риск потери работы из- заAI остается неопределенным, поскольку он не может ни заменить, ни дополнить человеческую работу, и это решение в конечном итоге принимается менеджерами. Bing, поисковая машина Microsoft, предлагает расширенную версиюAI, используемуюOpenAI вChatGPT. Наделла подчеркнул, что это сотрудничество, и пользователи Bing участвуют в многочисленных чатах и создают значительное количество изображений с помощью программы BingImageCreator. Пичаи подчеркнул, как технологияAI трансформируетGoogleSearch, отметив ее положительное влияние на запросы пользователей и возможность отвечать на новые типы вопросов, связанных с темой. GenerativeAIdetectors, разработанныеисследователямиСтенфордскогоуниверситета, былидоказанынеэффективностьразличения между В настоящее время компания OpenAI разрабатывает эффективные методы определения достоверности текста, а также намерена внедрить функции, которые позволят пользователям идентифицировать аудио- и визуальный контент, генерируемый искусственным интеллектом. Двухпартийная заинтересованность состоит в том, чтобы создать законодательство обAI, которое поощряло бы инновации и в то же время обеспечивало бы защиту от потенциальных рисков. В индустрии развлечений, в то время как актеры и писатели переживают забастовку, некоторые компании размещают вакансии для специалистов по ИАИ. Студии интересуются ИАИ в таких областях, как создание содержания, обслуживание клиентов и анализ данных. Спрос на специалистов в этой области говорит о том, чтоAI, несомненно, повлияет на рабочие места, но решения, касающиеся вознаграждения и прав, будут зависеть от выбора человека. Актер Джозеф Гордон- Левитт в своей передаче подчеркнул важность признания и вознаграждения творцов, чьи работы подвергаются воздействиюAI. Стоит отметить, чтоCNET используетAIenginet для помощи в создании истории. В этой заметке приводится много подробностей о том, как он используется.