Нейросеть обучили на аудиозаписях языковой среды младенцев

Американские ученые успешно разработали языковую модель, обучив ее на аудиозаписях, фиксировавших первые тысячу дней языковой среды младенцев. Ключевым аспектом для эффективного обучения стало многократное повторение услышанных слов, а также возвращение к прослушанному в конце дня для успешной консолидации, что подтверждает существующие представления об обучении и памяти. Исследование опубликовано в журнале Science. Об этом пишет сайт N + 1.

Это исследование достаточно простое для понимания, и разобраться в его основных аспектах сможет даже школьник. В процессе освоения языка дети находятся в индивидуальной языковой среде, однако все они в итоге формируют общие представления о речи и словах, не следуя определенной методике обучения. Одна из нерешенных проблем лингвистики заключается в том, достаточно ли неструктурированного языкового опыта первых лет жизни для обучения, или также задействованы врожденные предпосылки к овладению языком.

Ученые под руководством Ури Хассона из Принстонского университета решили выяснить, возможно ли успешно обучить языковую модель, используя исключительно речь, которую слышат дети в первые тысячу дней жизни. Для каждого из восьми детей, участвовавших в эксперименте, была создана своя модель, не включающая предварительных языковых знаний: каждая обучалась только на основе информации, с которой сталкивался ребенок. В моделях использовалась архитектура «кодировщик-декодер», разделяющая процесс обучения на два этапа. На первом этапе кодировщик разбивал непрерывный речевой поток на отрезки длительностью 20 миллисекунд. На втором этапе декодировщик обучался выявлять закономерности, предсказывая последующие элементы на основе предшествующего контекста.

Данные обрабатывались последовательно день за днем, в том порядке, в котором их получал каждый ребенок в повседневной жизни. Таким образом ученые стремились смоделировать естественное развитие ребенка — с увеличением продолжительности интервалов бодрствования увеличивалось и количество полученной информации. Кроме того, в конце каждого дня модель повторно обращалась к пройденному за день — так имитировалась консолидация памяти, происходящая во время сна.

При таком подходе к обучению нейросетям потребовался примерно один смоделированный год, чтобы научиться распознавать звуки англоязычной речи и на их основе сформировать словарный запас в несколько тысяч слов — динамика его роста практически полностью совпадала с показателями реальных детей.

Критически важна оказалась плотность входящих данных: модели, получавшие лишь часть записей языковой среды ребенка, усваивали значительно меньше слов — вероятно, из-за того, что для запоминания требуется многократное повторение. Также важным стало возвращение к изученному за день ночью: модели, у которых такая возможность отсутствовала, с трудом усваивали слова, даже если объем получаемой информации был достаточно большим.

В будущих исследованиях в языковые модели, помимо записей устной речи, планируется добавить жесты и мимику, чтобы максимально приблизить процесс обучения к реальной жизни.