Fine-tuning для ума: Почему генералисты легко учатся новому

alt text

Есть такая техника в нейросетях, как fine-tuning. Она заключается в простых действиях: взять уже натренированную модель и продолжить её тренировку на новых или дополнительных данных.

Чем больше и круче первоначальная модель, тем меньше ей нужно данных, чтобы научиться новому или усовершенствовать уже имеющиеся навыки. Мне кажется, у людей тоже это работает. Чем шире и глубже наши знания, тем быстрее и легче мы способны научиться новому.

В этом заключается преимущество так называемых генералистов - людей, разбирающихся во многом. Они легко и быстро учатся новому.

Этот довод поддерживают полиглоты. Им легче выучить новый язык, потому что они уже знают компоненты и многие слова из уже знакомых языков.

Программисты, знающие более 2-х языков программирования, знают, как легко выучить ещё один.

Comments