В прошлом модели искусственного интеллекта создавались специально для определенных областей и требовали значительного времени и ресурсов для разработки. Например, модель GoogleAlphaFoldw была разработана исключительно для предсказания сворачивания белков и не могла быть применена в других областях. Изначально компания, занимающаяся разработкой роботов, полагала, что ей придется создавать специализированные генеративныеAI- модели для роботов. Однако вскоре они поняли, что использование готовогоChatGPT достаточно для управления роботами, даже без специального обучения робототехнике. Для разработки ChatGPT компании OpenAI пришлось модифицировать модели больших языков( LLM), такие как GPT3, для повышения интерактивности с человеческим вводом. Интересно, что эти модификации позволили последующим версиям GPT, таким как GPT3. 5 и GPT4, использовать мощные инструменты общего назначения, независимо от исходных данных для обучения или предполагаемого применения. Это потребовало изменения способов использования моделейAI, перехода к программированию вместо традиционного взаимодействия на основе чата и включения новых данных вместо обучения. Следовательно, AI перешел от специализации к универсальности" любого инструмента". Предсказывая вероятность слов и фраз на основе входных данных, модели генерируют выходные данные, которые наиболее вероятны с учетом контекста. Поэтому генеративные ИИ работают в условиях вероятности, а не абсолютности, Хотя этот вероятностный аспект создает определенные проблемы, такие как непредсказуемость и неточность, он также обеспечивает беспрецедентную гибкость и мощность, превосходящие возможности систем, основанных на правилах.

Ключевой момент заключается в использовании и эффективном управлении этой случайностью. Изначально физики считали, что Вселенная функционирует детерминированно, пока не обнаружили квантовую случайность. Принятие этой квантовой странности привело к практическому применению, например, полупроводниковых устройств, которые мы используем сегодня. Аналогично, в ИАИ мы используем технику, называемую" градиентным спуском", для обучения нейронных сетей в ЛЛМ. Этот процесс сопоставляет выходы модели с предоставленными данными обучения и рассчитывает корректировки, чтобы эти выходы были более согласованы с данными обучения. Вероятностная математика обеспечивает надежную основу для работы компьютера со словами, поскольку определение вероятности ассоциаций слов упрощает подсчеты, в чем компьютеры превосходят всех. Повторяя этот процесс с постепенным улучшением, мы можем преобразовать нейронную сеть, которая первоначально генерирует тарабарщину, а затем производит последовательные предложения. Эта техника может быть распространена на другие области, включая изображения и последовательности ДНК.