Слово дня — Inference
Слово дня — Inference
произносится Инфэрэнс (с ударением на первый слог)
и это процесс создания выводов и умозаключений на основе доступной информации.
Поэтому часто просто переводят как вывод или рассуждение, умозаключение. И конечноже есть малоиспользуемое более точное слово Инференция.
Довольно такое слово очень специфически точно описывающее некий процесс рассуждения. Но почему же это слово дня. Ну конечно же из за Искусственного итить-вашу-мать-профессор интеллекта, но точнее именно ЛЛМ. Нынешние большие яыковые модели состоят как бы из нескольких частей: Модель, то есть алгоритмы которые говорят модели как набираться знаний и как эти знания использовать. Набор Данных - это то, на чём модель учится, а дальше мы эту обученную модель можем использовать, но ей всё равно надо брать ваши промпты и как-то их обрабатывать и выдавать ответ. Вот этот последний этап и называется Инференция.
Инференция требует и мощных процессоров и много памяли, и чем больше тем лучше. Но это мелочи по стравнению с мощностями необходимыми для обучения модели.