Ресурсно-рациональная модель обработки человеком рекурсивной лингвистической структуры. Часть 1.

Основная цель психолингвистической теории — объяснить когнитивные ограничения, ограничивающие скорость и легкость понимания и производства речи.

Действительно, существует определенная связь между ограничением языка и памяти, но это не означает, что язык может строго ограничивать нашу память. Основное влияние языковых ограничений оказывается на выразительную силу самого языка, а не на нашу память.

Язык – это инструмент выражения мыслей и чувств, посредством которого мы общаемся и общаемся. Разные языки имеют разный словарный запас, грамматику и выражения, и эти характеристики вместе формируют наши знания и понимание мира. Поэтому выразительные способности языка напрямую связаны с нашим образом мышления, и они совместно участвуют в формировании и развитии человеческого мышления.

Однако наша память не ограничивается языком. Способность памяти — это мощный инструмент, которым обладает наш мозг, и мы можем улучшить нашу память различными способами и методами. Например, используя различные методы запоминания, повторяющиеся тренировки и практику, используя множественную сенсорную стимуляцию и т. д., эти методы могут стимулировать наш мозг и улучшить нашу память.

Некоторые исследования показывают, что знание нескольких языков может улучшить нашу память. Изучение нового языка — это сложный процесс обучения, который стимулирует наш мозг становиться более гибким и адаптируемым. Владение несколькими языками также может способствовать нашему многокультурному видению и осведомленности.

Короче говоря, некоторые люди могут думать, что язык ограничивает наше мышление и память, но эта концепция ошибочна. Мы должны активно исследовать наш потенциал и улучшать мышление и память посредством постоянных инноваций, обучения и практики. Использование нескольких языков — это полезное исследование и попытка, которая может способствовать развитию нашего мышления и личностному росту. Видно, что нам необходимо улучшить память, а цистанхе пустынный может значительно улучшить память, потому что цистанхе пустынный — это традиционное китайское лекарственное средство, обладающее множеством уникальных эффектов, одним из которых является улучшение памяти. Эффективность мясного фарша обусловлена ​​различными содержащимися в нем активными ингредиентами, в том числе кислотами, полисахаридами, флавоноидами и т. д. Эти ингредиенты могут способствовать здоровью мозга различными способами.

Нажмите «Знайте 10 способов улучшить память»

Широкий спектр данных демонстрирует ключевую роль лингвистических ожиданий: предсказуемость слова, измеряемая теоретико-информационной величиной неожиданности, является основным фактором, определяющим сложность обработки информации.

Но, что удивительно, стандартные теории не могут предсказать сложность важного класса лингвистических паттернов: вложенных иерархических структур, ставших возможными благодаря рекурсии в человеческом языке.

Эти вложенные структуры лучше объясняются психолингвистическими теориями ограниченной рабочей памяти. Однако прогресс в теории, объединяющей описания, основанные на ожиданиях и памяти, был ограничен.

Здесь мы представляем единую теорию рационального компромисса между точностью представлений в памяти и простотой прогнозирования, масштабной вычислительной реализацией с использованием современных методов машинного обучения и экспериментальными данными, подтверждающими особые предсказания теории.

Мы показываем, что теория делает тонкие и четкие прогнозы для моделей сложности во вложенных рекурсивных структурах, предсказанных ни теориями, основанными ни на ожиданиях, ни на памяти.

Эти предсказания подтверждаются 1) в двух экспериментах по пониманию языка на английском языке и 2) при завершении предложений на английском, испанском и немецком языках.

В более общем плане наша структура предлагает явную вычислительную теорию и методы для понимания того, как ограничения памяти и прогнозирование взаимодействуют в понимании и воспроизведении человеческого языка.

Язык выражает рекурсивные мысли посредством линейных цепочек слов (1). Следовательно, центральной частью понимания языка является восстановление иерархической структуры из линейной последовательности.

Хотя мы делаем это, казалось бы, без усилий, уже давно замечено, что способность людей делать это может наталкиваться на ограничения кратковременной памяти (2). Такие ограничения имеют решающее значение для понимания природы обработки человеческой речи и являются важным предметом изучения (3–8).

Ограничения человеческой обработки информации часто приводят к измеримым, локализованным различиям в трудностях понимания между похожими в остальном предложениями, и моделирование этих различий в сложности было ключевой целью психолингвистических исследований (3–8).

Однако оказалось непросто разработать единое объяснение того, что делает различные предложения более легкими или трудными для понимания людьми.

Исследования выявили две, казалось бы, несопоставимые точки зрения на то, что делает предложения трудными для понимания. Модели, основанные на ожиданиях (9, 10), описывают, как контекст генерирует ожидания относительно вероятного будущего ввода.

Согласно таким моделям, слова труднее обрабатывать, если их труднее предвидеть из предыдущего контекста. Напротив, модели, основанные на памяти, утверждают, что сложность обработки связана с ограничениями на способность хранить представления предыдущего контекста, а также извлекать и интегрировать их с новыми входными данными (4, 5, 7).

Обе точки зрения подкреплены существенными эмпирическими данными (11–16), и остается открытым вопрос, как их можно теоретически и эмпирически согласовать (14–16).

Здесь мы разрабатываем теорию и реализуемую модель, совмещающую теории, основанные на ожиданиях и памяти, основываясь на недавних исследованиях, которые показали ключевую роль шума и неопределенности в моделировании человеческих мысленных представлений языкового ввода (17–19).

В то время как традиционные модели языковой обработки обычно предполагают достоверные представления контекста и ввода (проблема понимания на уровне предложения ставится как задача анализа известной последовательности слов для определения ее структуры и значения и прогнозирования будущего ввода), теория языковой обработки «шумного канала» рассматривает эти проблемы. представления как неопределенные, и выдвигает гипотезу, что анализ и прогнозирование в обработке человеческого языка приближаются к нормативным принципам байесовского вывода с учетом этих неопределенных представлений (20, 21).

Эти идеи привели к предложению объединить теории трудностей обработки информации, основанные на ожиданиях и памяти, из-за неожиданного контекста с потерями (22). Сюрприз с потерями контекста утверждает, что сложность человеческой обработки информации определяется ожиданиями, полученными не из достоверного контекста, а из вероятностного вывода о несовершенных представлениях контекста в памяти.

В принципе, этот подход мог бы объяснить предсказания моделей, основанных как на ожиданиях, так и на памяти: слова легко обрабатывать, когда их легко предугадать (как предсказывают модели, основанные на ожиданиях), но если соответствующая контекстная информация плохо представлена ​​в памяти, слова может быть трудно правильно предугадать, что приводит к трудностям обработки, как предсказывают традиционные теории, основанные на памяти.

Однако на сегодняшний день многие части этой теории еще предстоит уточнить. В теории отсутствует реализованная спецификация того, какие аспекты предыдущего контекста склонны к потере памяти, что является ключом к получению проверяемых предсказаний. В идеале эта спецификация должна основываться на более глубоких теоретических принципах.

Кроме того, не существует масштабированной реализации обработки зашумленных каналов, которая необходима для детального прогнозирования профилей сложности конкретных предложений.

В этой работе мы представляем теоретические и эмпирические достижения, направленные на устранение этих ограничений. На теоретическом уровне мы предлагаем ресурсно-рациональную модель (23) мелкозернистых представлений памяти, основанную на гипотезе о том, что представления памяти оптимизированы для минимизации ожидаемых усилий по последующей обработке с учетом ограничений когнитивных ресурсов.

Сочетание этой идеи с неожиданностью контекста с потерями в качестве показателя сложности обработки приводит к широкомасштабным эмпирическим предсказаниям.

Чтобы оценить эти прогнозы и понять их в деталях, мы реализуем предложенную модель, используя современное моделирование нейронных сетей, и адаптируем ее к крупномасштабным текстовым данным, что позволяет теории делать подробные прогнозы относительно поведения человека при понимании произвольного ввода на естественном языке.

Наша теория выводит предсказания о закономерностях сложности обработки человеком рекурсивных структур, которые по отдельности не могут быть объяснены ни теориями, основанными на ожиданиях, ни теориями, основанными на памяти. Рекурсивные структуры, в частности случаи центрального встраивания, когда предложения вложены друг в друга, имеют решающее значение для психолингвистической теории, поскольку они раскрывают человеческие ограничения в обработке иерархических структур языка (2–4, 24–26). Рассмотрим рис. 1А.

В этих предложениях различное количество предложений встроено друг в друга. Большее вложение по центру приводит к образованию структур, которые труднее обрабатывать: в то время как пункты 1 и 2 на рис. 1А легко понять, пункт 3 значительно сложнее.

Добавление дополнительных уровней встраивания увеличило бы сложность до невозможности понимания. Большее количество уровней центрального встраивания встречается реже при использовании языка (27), поэтому теории, основанные исключительно на ожиданиях, правильно предсказывают, что они в целом сложны, но не могут предсказать, где эта трудность проявляется в человеческой обработке: при выходе из встраивания при слове «был» в примерах. Рис. 1А.

Если бы контекст был достоверно представлен и использовался для прогнозирования предстоящих входных данных, то выход из внедрения на этом этапе должен быть именно тем, что ожидается, и простым для обработки человеческим языком.

Некоторые теории, основанные на памяти, предсказывают, что выход из внедрения является трудным, поскольку сложность предшествующего контекста затрудняет поиск правильного места для структурной интеграции (4, 5, 7).
Однако здесь мы представляем экспериментальную работу, показывающую, что эта трудность модулируется мелкозернистыми различиями в контексте: например, замена отчета на факт в предложениях рис. 1А облегчает выход из центрального встраивания. Это явление не предсказывается существующими теориями, основанными на памяти.

Наша модель в принципе способна учесть все эти закономерности. Когда представления памяти несовершенны, рациональные постижители должны реконструировать контекст на основе своих знаний статистики языка.

Таким образом, структурные ожидания воспринимающих входных данных должны быть смещены в сторону контекстов с высокой априорной вероятностью, которые по форме аналогичны истинным контекстам. В ресурсно-рациональной модели это особенно повлияет на варианты, которые отличаются словами, которые обычно легко восстановить из других частей контекста, например, часто встречающимися функциональными словами.

Например, мы ожидаем, что такой контекст, как «сообщение о том, что врач рассердил пациента…» будет конкурировать с такими вариантами, как «отчет врача рассердил пациента…», где «раздосадованный» — это глагол, принадлежащий к начальное существительное «отчет».

Для такого недостоверного варианта не ожидается никакого третьего глагола. Таким образом, рациональные постигатели с несовершенной памятью должны с большей вероятностью ожидать финального глагола, когда такие неверидичные версии с меньшей глубиной внедрения имеют меньшую априорную вероятность.

Напротив, когда неправдивые варианты имеют высокую априорную вероятность, понимающие не должны ожидать последнего глагола, и понимание будет нарушено, когда он встретится.

For more information:1950477648nn@gmail.com