Российские ученые нашли способ, чтобы нейросетка «не тупила»
На международной конференции в Сингапуре российские исследователи из T-Bank AI Research рассказали, как заставить нейросети «не тупить».
Обычно большие языковые модели (LLM) при длительном обучении начинают «плыть» — ответы становятся хуже, появляются ошибки. Решение оказалось простым: учёные взяли уже существующий метод Trust Region и доработали его. Благодаря этому нейросеть начала чаще «перепроверять себя» и сохранять фокус на нужной задаче.
Учёные объясняют это так: новая методика помогает нейросети отмечать «контрольные точки» на пути обучения — и таким образом избегать ошибок и быстрее приходить к нужному результату.
Результаты впечатляют: ответы стали точнее примерно на 15%, а также более логичными, связными, информативными и стилистически чистыми. Кроме того, модель перестала сбиваться с курса, как это часто бывает при узкой или нестабильной настройке.
Метод уже доступен в открытой библиотеке T-Bank под названием Turbo Alignment. Он легко внедряется и хорошо работает с другими системами обучения.