再帰的言語構造の人間処理のリソース合理的モデル パート 1
Jan 23, 2024
心理言語理論の主な目標は、言語の理解と生成の速度と容易さを制限する認知的制約を説明することです。
確かに言語の制限と記憶の間には一定の関係がありますが、言語が私たちの記憶を厳密に制限できるという意味ではありません。 言語の制限による主な影響は、私たちの記憶ではなく、言語自体の表現力にあります。
言語は思考や感情を表現するためのツールであり、それを通じて私たちはコミュニケーションをとります。 言語が異なれば語彙、文法、表現も異なり、これらの特徴が組み合わさって私たちの世界に対する知識と理解を形作ります。 したがって、言語の表現能力は私たちの思考方法に直接関係しており、それらは共同して人間の思考の形成と発展に関与しています。
しかし、私たちの記憶は言語によって制限されるわけではありません。 記憶力は私たちの脳が持つ強力なツールであり、さまざまな方法や方法で記憶力を向上させることができます。 たとえば、さまざまな記憶術を使用したり、トレーニングと練習を繰り返したり、複数の感覚刺激を使用したりするなど、これらの方法により脳が刺激され、記憶力が向上します。
いくつかの研究では、複数の言語を話すと記憶力が向上することが示されています。 新しい言語を学ぶことは、私たちの脳を刺激してより柔軟で順応性を高める挑戦的な学習プロセスです。 複数の言語に堪能であることは、多文化のビジョンや認識を促進することにもなります。
つまり、言語によって私たちの思考や記憶に制限があると考える人もいるかもしれませんが、この概念は間違っています。 私たちは、継続的な革新、学習、実践を通じて、自分の可能性を積極的に探求し、思考力と記憶力を向上させる必要があります。 複数の言語を使用することは有益な探索と試みであり、思考の進歩と個人の成長を促進することができます。 私たちは記憶力を向上させる必要があることが分かります。カンクサは多くのユニークな効果を持つ伝統的な漢方薬素材であり、そのうちの 1 つは記憶力の向上であるため、カンクサは記憶力を大幅に向上させることができます。 ひき肉の効能は、酸、多糖類、フラボノイドなどを含む、ひき肉に含まれるさまざまな有効成分によってもたらされます。これらの成分は、さまざまな方法で脳の健康を促進します。
広範な証拠は、言語的期待の重要な役割を示しています。情報理論的な驚きの量によって測定される単語の予測可能性は、処理の難しさの主要な決定要因です。
しかし驚くべきことに、標準的な理論は、言語パターンの重要なクラス、つまり人間の言語の再帰によって可能になる入れ子になった階層構造の困難さのプロファイルを予測できません。
これらの入れ子構造は、制約された作業記憶容量に関する心理言語理論によってより適切に説明されます。しかし、期待ベースの説明と記憶ベースの説明を統合する理論の進歩は限られています。
ここでは、メモリ表現の精度と予測の容易さの間の合理的なトレードオフに関する統一理論、現代の機械学習手法を使用したスケールアップされた計算実装、および理論の特徴的な予測を裏付ける実験的証拠を提示します。
この理論は、期待ベースの理論や記憶ベースの理論だけでは予測されない、入れ子になった再帰構造の困難パターンについて、微妙で独特な予測を行うことを示します。
これらの予測は、1) 英語での 2 つの言語理解実験、および 2) 英語、スペイン語、ドイツ語での文章完成で確認されました。
より一般的には、私たちのフレームワークは、人間の言語の理解と生成において記憶の制約と予測がどのように相互作用するかを理解するための、計算的に明示的な理論と方法を提供します。
言語は、単語の直線的な文字列を介して再帰的思考を表現します (1)。 したがって、言語理解の中心は、線形シーケンスから階層構造を復元することです。
私たちはこれを一見何の努力もせずに行っているように見えますが、人間のそうする能力は短期記憶の限界に反する可能性があることが長い間観察されてきました(2)。 このような制限は人間の言語処理の性質を理解する上で非常に重要であり、重要な研究対象となっています(3-8)。
人間の処理の限界により、他の点では類似した文間で理解の困難さに測定可能な局所的な違いが生じることが多く、それらの難易度の違いをモデル化することが心理言語研究の重要な目的となっています (3-8)。
しかし、人間にとってさまざまな文章が理解しやすくなったり、理解しにくくなったりする原因を統一的に説明するのは困難であることがわかっています。
研究により、文章を理解しにくくする原因について、一見異なる 2 つの視点が特定されました。 期待ベースのモデル (9、10) は、コンテキストが将来起こり得る入力に関する期待をどのように生成するかを説明します。
このようなモデルによると、単語は前の文脈から予測するのが難しいほど処理が難しくなります。 対照的に、メモリベースのモデルでは、処理の難しさは、前のコンテキストの表現を保存し、それらを取得して新しい入力と統合する能力の制限に起因すると考えられます(4, 5, 7)。
どちらの見方も、多くの経験的証拠によって裏付けられていますが (11-16)、それらを理論的および経験的にどのように調和させることができるかは未解決の問題のままです (14-16)。
ここでは、言語入力の人間の精神的表現のモデル化におけるノイズと不確実性の重要な役割を提案した最近の研究に基づいて、期待ベースの理論と記憶ベースの理論を調和させる理論と実装モデルを開発します(17-19)。
従来の言語処理モデルは一般に、正しい文脈と入力表現を前提としていますが、文レベルの理解の問題は、既知の一連の単語を分析してその構造と意味を決定し、将来の入力を予測する問題の 1 つとして位置づけられていますが、「ノイジー チャネル」言語処理理論ではこれらを扱います。表現を不確実なものとして扱い、人間の言語処理における分析と予測は、これらの不確実な表現を前提としたベイズ推論の規範原理に近似していると仮説を立てています (20, 21)。
これらのアイデアは、非可逆コンテキストのサプライズによる処理の困難さの期待ベースの理論と記憶ベースの理論を統合するという提案につながりました (22)。 ロッシーコンテキストサプライズは、人間の処理の難しさは、真実のコンテキストからではなく、コンテキストの不完全な記憶表現に対する確率的推論から導き出される期待によって決定されると仮定します。
原則として、このアプローチは期待ベースのモデルと記憶ベースのモデルの両方の予測を説明できます。期待ベースのモデルで予測されるように、予測が容易な場合、単語は処理しやすいですが、関連するコンテキスト情報がメモリ内で適切に表現されていない場合、次の単語は処理されます。単語を正確に予測するのは難しい場合があり、従来の記憶ベースの理論で予測されるように、処理が困難になります。
しかし、現在に至るまで、この理論の多くの部分はまだ特定されていません。 この理論には、テスト可能な予測を導き出すための鍵となる、先行するコンテキストのどの側面が記憶喪失になりやすいかについての実装された仕様が欠けています。 理想的には、この仕様はより深い理論的原則に基づいている必要があります。
さらに、特定の文の難易度プロファイルをきめ細かく予測するために必要な、ノイズの多いチャネル処理の拡張された実装は利用できません。
この研究では、これらの制限に対処する理論的および経験的な進歩を紹介します。 理論レベルでは、認知リソースの制約が与えられた場合に予想される下流の処理労力を最小限に抑えるためにメモリ表現が最適化されるという仮説に基づいて、きめの細かいメモリ表現のリソース合理的モデル (23) を提案します。
このアイデアを、処理難易度の指標としての非可逆コンテキストのサプライズと組み合わせると、広範囲にわたる経験的予測が得られます。
これらの予測を評価し、詳細に理解するために、現代のニューラル ネットワーク モデリングを使用して提案されたモデルを実装し、大規模なテキスト データに適合させます。これにより、理論が任意の自然言語入力に対する人間の理解行動に関する詳細な予測を行うことが可能になります。
私たちの理論は、期待ベースの理論でも記憶ベースの理論でも個別に説明できない再帰的構造の人間による処理における困難パターンの予測を導き出します。 再帰構造、特に文が互いに入れ子になっている中心埋め込みの場合は、言語の階層構造の処理における人間の限界を明らかにするため、心理言語理論にとって重要です (2-4、24-26)。 図を考えてみましょう。 1A.
これらの文では、さまざまな数の文が相互に埋め込まれています。 中心の埋め込みが増えると、構造の処理がより難しくなります。図 1A の項目 1 と 2 は容易に理解できますが、項目 3 はかなり難しくなります。
さらにレベルの埋め込みを追加すると、理解不能なレベルまで難易度が増加します。 言語使用において、これ以上のレベルの中心埋め込みは稀であるため (27)、純粋に期待に基づいた理論は、それらが全体的に難しいことを正しく予測しますが、この困難さが人間の処理のどこに現れるかを予測できません: 埋め込みを終了するとき、例の「だった」という単語の部分図１Ａの。
コンテキストが正しく表現され、今後の入力を予測するために使用されている場合、この時点での埋め込みの終了はまさに期待通りであり、人間の言語処理にとっては簡単であるはずです。
一部の記憶ベースの理論は、先行するコンテキストの複雑さが構造統合のための正しいサイトの検索を困難にすることに基づいて、埋め込みから抜け出すことが困難であると予測しています (4、5、7)。
しかし、ここでは、この難しさが文脈の細かい違いによって変化することを示す実験研究を紹介します。たとえば、レポートを図 1A の文に変更すると、中央の埋め込みから抜け出すのが容易になることがわかりました。 この現象は、既存の記憶ベースの理論では予測できません。
私たちのモデルは、原則として、これらすべてのパターンを説明できます。 記憶表現が不完全な場合、合理的理解者は言語の統計に関する知識に基づいてコンテキストを再構築する必要があります。
したがって、理解者の入力に対する構造的な期待は、真のコンテキストと形式が似ているアプリオリ確率の高いコンテキストに偏るはずです。 リソース合理的モデルでは、これは、高頻度の機能語など、通常はコンテキストの他の部分から再構成するのが容易な単語が異なるバリアントに特に影響します。
たとえば、「医師が患者をイライラさせたという報告…」のような文脈は、「医師の報告は患者をイライラさせた…」のような変形と競合すると予想されます。ここで、「イライラした」は動詞です。頭文字「レポート」。
このような非検証的バリアントの場合、3 番目の動詞は期待されません。 したがって、不完全な記憶を持つ合理的理解者は、埋め込み深さが低い非検証バージョンの先験的確率が低い場合、最終動詞を期待する可能性が高くなります。
対照的に、非検証的バリアントが高い先験的確率を有する場合、理解者は最後の動詞を期待すべきではなく、それに遭遇したときに理解が中断されてしまいます。
For more information:1950477648nn@gmail.com
