Нейросетью сегодня называют почти любую программу, которая отвечает текстом или рисует картинки. Разберёмся, что там внутри — без формул, но и без магии.

Главная идея: не правила, а примеры

Обычную программу человек описывает правилами: «если пришло это — сделай то». Такой подход разваливается на задачах, где правил слишком много. Опишите правилами, чем кошка на фотографии отличается от собаки, — и вы застрянете на первом же пункте.

Нейросеть заходит с другой стороны. Ей не пишут правила — ей показывают примеры. Миллион фотографий с подписями «кошка» и «собака», и она сама подбирает внутренние настройки так, чтобы её ответы всё реже расходились с подписями.

Эти настройки называются весами, их миллиарды, и по отдельности они ничего не значат. Обучение — это долгий процесс подкрутки: сеть даёт ответ, сравнивает с правильным, чуть-чуть меняет веса, повторяет. Миллиарды раз.

Почему языковая модель звучит уверенно и всё же ошибается

Текстовые модели вроде ChatGPT или YandexGPT решают на удивление узкую задачу: предсказать следующее слово. Одно. Потом ещё одно, уже с учётом предыдущего, и так далее.

Из этой механики следуют два важных свойства.

  • Модель не знает фактов — она знает, как обычно выглядит текст. Поэтому вымышленная ссылка на несуществующую статью выглядит ровно так же убедительно, как настоящая. Это явление называют галлюцинацией, и оно не баг, а прямое следствие устройства.
  • Модель не ищет в интернете, если её об этом не попросили. Она отвечает по тому, что впитала при обучении. Отсюда устаревшие данные и уверенные ответы про события, которых она не застала.

Практический вывод простой: нейросеть — отличный черновик и плохой источник. Всё, что она сообщает как факт, проверяется отдельно.

Чем это отличается от поиска

Поисковик находит документ, написанный человеком, и показывает ссылку — ответственность за содержание остаётся на авторе. Нейросеть порождает новый текст, у которого автора нет. Поэтому в учебной работе ссылка на поисковую выдачу проверяема, а «мне так сказала нейросеть» — нет.

Какие профессии выросли вокруг

Появление доступных моделей создало не одну профессию, а несколько ролей.

  • Промпт-инженер. Формулирует задачу так, чтобы модель выдала пригодный результат: разбивает сложное на шаги, задаёт формат, приводит примеры. Ближе к постановке задачи, чем к программированию.
  • Специалист по ИИ-ассистентам. Собирает из моделей и данных компании рабочий инструмент: подключает базу знаний, настраивает ограничения, следит, чтобы ассистент не выдумывал.
  • Редактор ИИ-контента. Проверяет сгенерированное на факты, стиль и уместность. Отдельная профессия ровно потому, что модель не отличает правду от правдоподобия.
  • Разметчик и оценщик. Готовит примеры для обучения и оценивает качество ответов — работа, на которой держится всё остальное.

Общее у всех четырёх: ценность в человеке, а не в модели. Модель одинаково доступна всем; отличается то, насколько точно человек ставит задачу и насколько строго проверяет результат.

Как попробовать самому

  1. Задайте модели вопрос, ответ на который знаете точно. Сравните — увидите, где она уверенно врёт.
  2. Попросите одно и то же тремя разными формулировками. Разница в ответах покажет, насколько важна постановка.
  3. Дайте задачу с примером желаемого результата. Качество вырастет заметно — это и есть основа промптинга.

Коротко

  • Нейросеть учат примерами, а не правилами; внутри — миллиарды подкрученных чисел.
  • Текстовая модель предсказывает следующее слово, поэтому звучит уверенно и может выдумывать.
  • Это генератор черновиков, а не источник фактов.
  • Профессии вокруг ИИ — про постановку задачи и проверку результата, а не про «умение нажимать кнопки».