Metaprogramming
715 subscribers
107 photos
1 video
167 links
μετά- «между, после, через» (греч.)

Жизнь программиста за пределами программирования: алгоритмы, психология, инвестиции, иное.
加入频道
Терминологический диспут

В довесок к предыдущему посту: читатели упрекают в использовании термина "лингвистический ИИ/модель" (используется мало и в публицистике) вместо "языковой ИИ/модель" (используется часто, в т.ч. в академической среде).

Но позвольте, какая же LLM "языковая модель"? И вообще, что такое "языковая модель", в отличие от "модели языка"?

Массив текстов (что изначально не вполне "язык") нарезают на токены, токены скармливают по порядку модели, модель учится предсказывать следующий токен. У недоученных моделей вылезает показательный артефакт – отвечают на смеси языков (например, посередине китайского текста вылазит английский), приходится исправлять дополнительными манёврами.

Какого же конкретно "языка" "языковая модель" является моделью? Праиндоевропейскосинотибетского?

Нет, братцы, использование здесь слова "язык" является искажением того же порядка, что и использование слова "интеллект" в словосочетании "искусственный интеллект".
🔥6👍3