Сравнение больших языковых моделей и марковских цепей для генерации анекдотов на русском языке

Abstract

В статье рассматриваются возможности автоматической генерации анекдотов на русском языке с использованием марковских цепей и больших языковых моделей (large language models, LLM). Целью исследования является сравнительный анализ этих методов в задаче генерации юмористических текстов, учитывающих формальные признаки анекдота. Для обучения марковских моделей был собран корпус из более чем 300 000 анекдотов, очищенный от дубликатов и выбросов. Результаты показали, что увеличение параметра state_size улучшает связность и осмысленность текстов, но снижает их разнообразие, при этом многие генерации представляют собой комбинации уже существующих анекдотов. В работе также тестировались LLM: GPT‑4, YandexGPT (3.0, 5.0 Lite, 5.0 Pro), Gemini (2.0 Flash, 2.0 Flash Thinking, 2.5 Pro) и Grok 3. Выяснилось, что некоторые из них (особенно GPT‑4 и Gemini 2.0 Flash) лучше сохраняют ключевые признаки жанра анекдота, создавая тексты с «речью от автора» и характерными персонажами, тогда как другие отклоняются от этих признаков или выдают заготовленные варианты. Результаты исследования подчеркивают необходимость дальнейших экспериментов с промптами и обучающими данными для повышения оригинальности и качества генерации. Ключевые слова: обработка естественного языка; автоматическая генерация текста; анекдоты; большие языковые модели; марковские цепи.