Нашумевшая на днях китайская LLM…
Нашумевшая на днях китайская LLM рассуждающая модель R1 от DeepSeek сильно встряхнула рынок.
Но как я понимаю большая часть паники типа на основе того, что раз модель требует намного меньше вычислительных мощностей (что сильно утрированная и не совсем верная подача) и посему не чипы, ни всё что нужно для их производства и использования не столь будут нужны. Это полное фуфло, и паника невежд.
Но там всё же тема не простая, и во всей это истории много разных инноваций, которые конечно не только эти сами китайцы сделали. Произошёл принципиально важный переход в плане развития всего ИИ.
По сей день все эти модели обучались на данных которые создали люди, и суть этих Больших Языковых Моделей, что они научились правильно агрегировать данные и таким образом трансформировать в правильное предсказание того что следует в следующей "букве" ответа. Но всё это породило большой вопрос "дистилляции". Дистилляция в данном контексте это когда есть большая и сложная модель, которая типа всё "узнала" сидя на огромной куче данных, но когда она эти данные всосала, она же их и утрясла более понятное и гораздо компактное под-множество этих знаний. Теперь более простая модель спрашивает более сложную модель миллионы разных вопросов, получая себе эти уже переосознанные и гораздо более компактные данные.
Далее есть ещё другой аспект — это тренировка на синтетических данных. То есть когда модель генерирует данные схожие с теми что получены из мира людей, но гораздо больше и разнообразнее, тем самым позволяя лучше тренироваться и ещё лучше развивать ту самую большую модель. Для этого как раз необходимо чтобы модель умела рассуждать логически, и чтобы эти синтетические данные были очень качественными.
И вот до успеха R1 было совсем не ясно возможно ли провернуть и то и другое. Но они точно дистиллировали данные выжав модели от OpenAI и видимо всех остальных тоже. И это показывает что дистилляция может быть успешно использована. Тут возникает интересная тема, которую довольно бурно обсуждали последние пару месяцев — возможность дистилляции подрывает экономическую модель, потому что сделать модель которую можно потом будет другим дистиллировать очень очень дорого, и сложно. И таким образом она не может конкурировать с тем что из неё всё выжал на халяву. Это примерно то же самое как воровство интеллектуально собственности. Только тут всё ещё многократнее. Обиженные творцы сетуют что их работы забрали не компенсировав, а тут ещё забрали ещё дальше, и не компенсировали ни тем не другим. Не удивительно что массово преуспели в этом именно китайцы.
Переход же состоит в том, что малая модель может теперь дистиллировать, взяв эту выжимку и свою логику создать синтетические данные и обучить на них большую модель следующего уровня, которую потом можно опять дистиллировать итп. ИИ сам себя улучшающий быстрыми темпами. Вот этот цикл можно сказать пока провернули единожды, но это и открывает ту самую дверь. Вот о чём должны все говорить, а то, что якобы дёшево стоило обучение R1 (во первых не R1 а V3 - это их более большая модель, не логическая, но обученная на дистилляции, и не за 6 миллионов, потому что это якобы деньги только за последний шаг, а шагов много, и там ещё вопрос сколько на самом деле стоило) и в том, что это иллюстрация нового типа быстрого замкнутого самообучения ИИ.