本書の著者によるなら、この本のもっとも重要なメッセージは、「私たち人間はAIの進歩を過大評価する一方で、自身の知性の複雑さを過小評価している」 (p. 411) ということです。
ここではその主題を、「AIの舞台裏」と「人間の知性」という観点からまとめて、私なりの考えを付け加えておきます。2つの観点の中の小見出しは■で、私の愚考は●で示します。いつものように素人ながらに本をまとめているだけに私の誤解や誤りを恐れます。もし誤りがあればご指摘いただければ幸いです。当然のことながら、この記事のまとめを無批判的に受容することは避け、興味をいだいた方は本書もしくは類書でAIについての理解を深めてください。
***AIの舞台裏***
■ AIが「自力で」学習しているというのは正確ではない
しばしば深層学習でAIは、学習対象の特徴やパラメータ（重み）を自力で見出す（＝学習する）と言われます。しかし実際は、プログラマーがいわば舞台裏で、そういった学習をするために必要なハイパーパラメータ（層数、ユニット数、活性化関数など）を設定をしています。 (p. 146) その設定がなければAIは学習ができません。ですから、AIが完全に自力で学習しているわけではありません。
しかも現時点では、この設定のコツは、経験を積んだり徒弟制のような形で身につけることがほとんどだそうです。そこでハイパーパラメータ設定は「芸術」とも「錬金術」とも呼ばれているぐらいです。 (p. 147)
■ AIは例外的事例に対して必ずしもうまく学習・推論しない
また深層学習の「教師あり学習」 (supervised learning) では、AIが学習する訓練データについても人間が「正解」をつけてやらなければなりません。例えばネコを同定するプログラムでしたら、「この画像にはネコが入っている」「この画像には入っていない」といった解答をあらかじめ人間が訓練データにタグ付けをしておくことが必要です。
それではこの教師あり学習では、訓練データに正解が示されているのだから、AIはうまく学習して間違いなく出力する（＝推論する）のかといえば、そうでもありません。例外的な事例についてはうまく学習・推論できないからです。めったに起こらない事例は、分布図の端に延々と続く細長い帯で示されます。それゆえこれらの例外的な事例は「ロングテール現象」 (p. 151) もしくは「エッジケース」 (p. 153) と呼ばれます。これらにAIはうまく対応できないわけです。例外には対応できなくても、たいていのものに適合していればいいのではないかとも思えますが、その例外的事例での間違いが深刻な結果をもたらすなら、ロングテール・エッジケースに弱いというのはAIの看過できない弱点となります。
■ AIは学習したことを転移させることを苦手としている
また、AIは学習内容をうまく「転移」させることもできません。AlphaZeroは、AlphaGoやAlphaGo Zeroと異なり、囲碁以外のボードゲームにも対応できるものです。AlphaZeroは、2時間で将棋、4時間でチェスの最高峰のAIに勝利し、囲碁に特化したAlphaGo Zeroも8時間で上回ったとも言われています（ウィキペディア、Wikipedia）。 しかし、例えば将棋を学んだAlphaZeroは将棋に特化した学習をしており、それがチェスを学ぶためにはゼロからチェスについての学習をする必要があります。現在のAIは、将棋の羽生名人がチェスにも習熟するような学習をしているわけではありません。AIは「転移学習」を不得意としているわけです。
しかし、後でも述べますが、人間にとっては、学んだことを一般化しアナロジー的に他の事例に転移させることが学習の中心です。 (p. 245)「3 + 4 = 7」を学ぶということは、その式を暗記して再生できるということではなく、「2 + 4」や「3 + 5」の答えも出せるようになるということです。ある国の歴史をしっかりと学んだ者は、新たに他の国の歴史を学ぶことが少し楽に感じられます。テニスを学んだ人は、それなりにバトミントンもうまく学べます（もちろんその転移が妙な癖となってしまうこともありますが（＝負の転移）、そのことについては今は割愛します）。
AIが、正解が定められた教師あり学習で、学習したことを新しいことに転移させることは必ずしも簡単なことではありません。ちなみに、訓練データでの正解率を過剰に上げたAIは、テストデータの正解率がかえって悪くなります。限られた訓練データを「過学習」（ウィキペディア、Wikipedia）してしまうと、そのパターンが染み付いてしまい、新たな事例への対応が悪くなってしまうのです）。
■ AIを人間の知性に近づけるために重要な「教師なし学習」の解明が進んでいない
それならば、解答をタグ付けした訓練データを必要としない「教師なし学習」 (unsupervised learning) を大量に行えばよいとも考えられます。
しかし教師なし学習は、専門家の間では「暗黒物質」 (p. 155) とも喩えられています。人間のような知性（「汎用的なAI」）を実現するためには、教師なし学習が不可欠なのですが、そのためのアルゴリズムがほとんどわかっていないからです。 (p. 155)。別の例えは、AIをケーキとするなら、教師あり学習はクリーム、強化学習はイチゴ、教師なし学習はスポンジです。そして、ケーキの大半を占めるスポンジの作り方をまだAI研究者はまだほとんど知らないのです。（下の論文参照）
松尾豊 (2019)
深層学習と人工物工学
https://www.jstage.jst.go.jp/article/oukan/2019/0/2019_F-5-2/_pdf
■ まとめ
こうしてみますと、AIの成果は華々しく宣伝されていますが、現在のAIにはさまざまな限界があると言えます。
・AIが学習するための基本的設定の上手なやり方はまだ定式化されておらず、プログラマーの腕次第である。
・教師あり学習では、訓練データにいちいち人間が正解を教えてやらなければならない。しかもそのデータが大量に必要である。
・そうやって教師あり学習を行ったとしても、AIは例外的な事象についてはうまく学習も推論もできない。
・学習内容をそれに似た領域に転移させることを苦手としている。
・教師なし学習は、汎用的AIのためには不可欠なのだが、その解明はまだ進んでいない。
これらのことから私なりに考えたことを下に書いてゆきます。
● 「AI」を一般化してはならない。
現在もニュースなどで「AIが○○を予測！」や「AIで△△を診断！」といった見出しがよく見られます。そこで想定されているのは、「AIはすべて客観的であり、人間のような主観的な判断はしない。したがってAIはより信頼できる」といったことです。そもそも「AI」という用語も、単にルール基盤で動いているだけか、統計データだけに基づくものか、それとも深層学習を使っているのか、という点で区別が必要ですが、しばしばそれも無視されています。
ですが、上のようなAIの原理を理解しただけでも、AIはピンキリであることがわかります。製作者のハイパーパラメータの設定や教師ありデータの質と量などによって、その性能の差には大きな違いがでます。「AIを使っている」からといって、その予測や判断が常に人間よりも正しいわけでも優れているわけでもありません。「AIは客観的」というのも誤解を招きやすい表現です。AIは客観的というよりも、人間の精妙な主観をもっていないというべきでしょう。また仮に客観的という形容詞を使うにせよ、AIの予測や判断がなぜなされたのかを通常、人間は理解も説明もできません。
太古の人間は、亀甲占いなどの、今から考えてみれば何の根拠もない方法で重要な決定をしていました。ですが、そういった方法にはいつまでたっても終わらない議論を終わらせるという機能はもっていたのかもしれません。現在、もし使用しているAIの詳細にまったく触れずに、「とにかくAIがこのような答えを出したのだから、これで決定するしかない」などと言う人があれば、その人は現代における亀甲占い師の役割をしているのだといえるでしょう。
今後、「AIを使用」という宣伝文句を聞いたら、それは深層学習か、それはどのような経験をもつプログラマーが設計したのか、それはどれだけの訓練データに基づいているのか、といったことをチェックするべきでしょう。いや、それよりも、そのAIが実際にどれだけのパフォーマンスを示すのか、時に例外的なデータも入れながら試してみるべきでしょう。「AIだから優れている・正しい・信頼できる・客観的」と一般化して考えることは愚かだと考えます。
● 例外事象への対応を不得意としていることはChromeの英語字幕自動作成機能でも観察できる
私は3月末の登場以来、Chromeブラウザーの自動英語字幕生成機能を使って、昼食時間などにできるだけ英語動画を見るようにしています。一括した字幕提示よりも、音声の直後に順次字幕が出てくるChromeの方がリスニングの力をつけるのには適しているように思えます。
関連記事：
Chromeブラウザーの自動英語字幕生成機能で、リスニングを「勉強」から「楽しみ」に変える
しかしそのChromeの字幕の誤りを見ていると、やはり上でいうAIは例外的事項（ロングテール現象・エッジケース）に弱いように思えます。私が見る動画は、自分が好きなトピックのものですから、私はそれなりに専門的知識をもっています。ですから、Chromeの字幕の誤りも「なるほど、音声だけ聞くとそう思えるかもしれないが、ここは○○が正しい」とこちらの方で修正することができます。私の専門的知識などたかがしれていますが、ビッグデータ全体からすればやはりそれはロングテールに入る知識でしょう。その知識をもっていることで私はAIの間違いを正すことができるわけです。
それでは英語の頻出表現の一般的なリスニング（というよりも音声同定）に関して、私の方がChromeが使っているAIよりも優れているかといえば、必ずしもそうはいえないと私は感じています。日常的な音の脱落 (reduction) ・同化 (assimilation)・連結 (linking) などについては、私はChromeの字幕を見て「あぁ、そう言っていたのか」と得心することがしばしばです。ですから、Chromeの字幕生成機能は、一般的な英語（頻出する音声表現）においては私のリスニング力を補助してくれますし、この助けがあるのでこれまでよりも英語動画を見るようになる点で私のリスニング活動を増強してくれています。しかし、特殊な用語の同定については、専門的知識をもつ私の方に若干、分があるといえるでしょう。こうした点からも、やはりAIは人間の知的能力を代替するものではなく、補強・増強するものだと思えます。
● AIが人間の知性を補助・増強することに関してはレベル分けして考えるべきではないか。
本書は、AIの能力と限界を考える上で、自動運転のレベルを引用しています。 (p. 394)
そのレベルは下のページでも見られます。
関連記事：
現在の「自動運転」の技術レベルは？
https://jaf.or.jp/common/kuruma-qa/category-construction/subcategory-structure/faq083
例えば日本語を英語に翻訳するAIにしても、このようなレベルを独自に定義した上でその利用を考えるべきかと思います。そしてレベル5（＝人間の関与がどんな場合にも不必要）は、少なくとも当面は--下で述べるようにAIが人間と同じように「意味」を理解するまでは--達成できないと考えておくべきでしょう。「AIがあるから英語ライティングを学ぶ必要はない」というのは短絡で、これからは人間が、どの点でAIの補助・増強を受け、どの点でAIにはきわめて困難な力をつけてゆくべきかを具体的に考える必要があるでしょう。
***人間の知性***
それでは今度は、AIと対比することによって明らかになった人間の知性について、本書から学んだことをまとめてみます。
■ 人間は2次元画像から物語を読み取ることができる
深層学習AIは画像認識の面で長足の進歩を遂げています。画像から「統合情報」を抜き出しているとも言えましょう。単に画素を個々に認識しているのではなく、画素のつながり（統合情報）を認識しているように思えるからです。
関連記事
「意識の統合情報理論からの基礎的意味理論―英語教育における意味の矮小化に抗して―」（『中国地区英語教育学会研究紀要』 No. 48 (2018). pp.53-62）
http://yanaseyosuke.blogspot.com/2018/05/no-48-2018-pp53-62.html
https://doi.org/10.18983/casele.48.0_53
意識の統合情報理論からの基礎的意味理論--英語教育における意味の矮小化に抗して--全国英語教育学会での投映スライドと印刷配布資料
http://yanaseyosuke.blogspot.jp/2017/08/blog-post_9.html
統合情報理論 (Tononi 2008) の哲学的含意の部分の翻訳
https://yanaseyosuke.blogspot.com/2015/11/tononi-2008_16.html
統合情報理論からの意味論構築の試み ―ことばと言語教育に関する基礎的考察― （学会発表スライド）
http://yanaseyosuke.blogspot.jp/2016/03/blog-post_8.html
統合情報理論 (Tononi and Koch 2015) の公理、および公理と公準をまとめた図の翻訳
http://yanaseyosuke.blogspot.jp/2015/12/tononi-and-koch-2015.html
統合情報理論 (Tononi 2008) の哲学的含意の部分の翻訳
http://yanaseyosuke.blogspot.jp/2015/11/tononi-2008_16.html
統合情報理論 (Tononi 2008) において、意味について言及されている箇所の翻訳
http://yanaseyosuke.blogspot.jp/2015/11/tononi-2008.html
統合情報理論： Tononi (2008) の論文要約とTononi and Koch (2015) の用語集 （表1） の翻訳
http://yanaseyosuke.blogspot.jp/2015/10/tononi-2008-tononi-and-koch-2015-1.html
Tononi (2008) "Consciousness as Integrated Information: a Provisional Manifesto" の「数学的分析」の部分の翻訳
http://yanaseyosuke.blogspot.jp/2015/10/tononi-2008-consciousness-as-integrated.html
統合情報理論を直観的に理解するための思考実験
http://yanaseyosuke.blogspot.jp/2015/10/blog-post_7.html
クリストフ・コッホ著、土屋尚嗣・小畑史哉訳 (2014) 『意識をめぐる冒険』 岩波書店
しかしAIが認識しているその統合情報も、それは「ネコ」や「車」といった個々の存在物のレベルです。ですが、人間は例えば本書の101ページのような写真（空港で兵士を出迎える飼い犬）を見ると、そこから物語を引き出すことができます。その画像の中に同定できる個々の存在物だけでなく、それらの存在物の関係性、存在物の中で意識をもっているものの感情や思考、それらの意識体の中での主人公の同定、その主人公の過去と未来などなどを一瞬のうちに推論します。 (p. 101)
そうやって構築される物語は複数存在しえます。ということは人間が画像から想定する物語は唯一無二の真実ではありません。しかしその物語という形式で統合できる推論があるからこそ、人間はその画像の「意味」を豊かに読み取れるわけです。この場合の「意味」とは、画像に明らかに認められる「現実性」 (actuality）だけではなく、その現実性につながっている潜在的な「可能性」 (potentiality) も含みます。画像の中に認識できるさまざまな現実性の関係性およびそれらと関連しうる莫大な数の可能性のすべてがその画像の「意味」です（したがって人間は意味のすべてを意識化できず、意味の大部分は無意識レベルで活性化されているだけです）。そしてその一言で言い表せないほどの豊穣な現実性と可能性を、うまく統合してくれるのが物語（ストーリー）での認識です。
関連記事
論文：なぜ物語は実践研究にとって重要なのか―仮定法的実在性による利用者用一般化可能性―
http://alce.jp/journal/dat/16_12.pdf
3/11の学会発表スライド：なぜ物語は実践研究にとって重要なのか―仮定法的実在性による利用者用一般化可能性―
http://yanaseyosuke.blogspot.com/2018/03/311.html
「意味、複合性、そして応用言語学」 『明海大学大学院応用言語学研究科紀要 応用言語学研究』 No.19. pp.7-17
残念ですが、現在のAIは画像の中に、教師あり学習で学んだ個体を同定することができますが、その個体について人間が通常想起するような「意味」ましてやその個体がもちうる「物語」を認識することができません。
■ 視覚と他の知能のつながり
いや、現在の深層学習AIに「意味」や「物語」の理解を求めるのは、構造上無理です。なぜなら現在の画像系AIは画像認識に特化した学習しかしていないからです。他方、人間の脳の視覚野は、一般化、抽象化、言語などの機能を司る領域と多くのフィードバックでつながっています。(p.142) だからこそ人間は単なる視覚情報から「意味」や「物語」を想起できるのです。
そして人間はある個体を見た時にも、その感触・重さ・匂いなどの諸感覚だけでなく、その機能や構造などの抽象的な特性もほぼ同時に想起します。加えてその個体を別の角度から見たらどのように見えるかといった推論もします。このように人間の視覚は、幾重にも他の知識と結びついているので、人間は少々視覚的条件が悪い時でも、うまく推論しながらその個体同定ができます。しかしAIの視覚は、このような理解と頑強性を欠いているのです。(p. 172)
■ 生得的な「コア知識」
人間は、AIほどの莫大な教師あり学習をしなくても、AIにはきわめて困難な統合的な知識を獲得します。この知識獲得は、人間が接するデータがAIの訓練データと比べて極めて少ないことから考えても、すべて後天的に学習したものと考えることはできません。最近の認知科学が明らかにしているように、人間が生得的に有している認識構造が人間の学習を支えているわけです。
関連記事
語彙学習の3段階と言語習得の社会性について：今井むつみ・佐治伸郎（編著） (2014) 『言語と身体性』（岩波書店）を読んで考えたこと
こういった先天的な知識を本書は「コア知識」と名付けています。この一部を、私たちはしばしば「直観物理学」「直観生物学」「直観心理学」とも呼びます。これらの知識体系が人間の認知発達の基盤となっているので、人間はわずかな例から新しい概念を身につけ、さらにはその概念を一般化しアナロジーに使うことができるわけです。そしてメンタルシミュレーションを行い、仮想データを自ら作り出すようにしてさらにこの世界の中での対応法を広げ深めます。 (pp. 349- 353)
■ 「なぜ」と尋ねる子ども
人間がそのように概念の一般化やアナロジー使用そしてメンタルシミュレーションを積極的に行う習慣は、子どもが「なぜ？」の問いを多発することとも関連しているのかもしれません。(p. 145, p. 263) 子どもは大量の「なぜ？」の問いを大人に尋ね、大人からの反応を学びます。そうやって子どもは自ら考えることを学ぶのかもしれません。大人になっても「なぜ？」の問いをもち続けることが知性の向上にとって重要なことも異論はないでしょう。
他方、訓練データを与えられた深層学習AIはそのデータから特徴やパラメータの決定は行いますが、その過程でその学習を超えたレベルでの「なぜ？」を問うことはありません（ネコの同定を深層学習しているAIが「そもそもなぜネコを同定しなくてはならないのだろう？」と考えることはありません）。ましてやその「なぜ？」に促され自力で仮説を生み出すこともしませんし、その仮説を使ったシミュレーションをすることもありません。当たり前のことを言っているようですが、人間とAIが共存する時代には、人間の「なぜ？」を問える能力を大切にする必要があるでしょう。
■ 抽象化とアナロジー
人間の知性の重要な特徴は、抽象化とアナロジーです。本書は、アナロジー（＝2つのものに共通している本質的な特徴を認識すること）(p. 362) がなくては概念は存在しないし、概念がなければ思考は存在できない (p. 363) と説きます。抽象化とアナロジーという能力があるからこそ、人間は「ボンガード問題」などをわずかな数だけで解くことができるわけです。AIにこの問題を解かせようとすれば莫大な数のサンプルが必要となります。 (p. 377)
関連記事
2つにグループ分けされた模様から分類ルールを推測する「ボンガードパズル」をディープラーニングで解く
https://gigazine.net/news/20180309-bongard-problems-deep-learning/
■ 意味を理解しないAIを人間が理解することはしばしば困難
これまで述べてきたように人間は「意味」（＝さまざまな現実性と可能性のつながり）を理解していますが、AIはそのような意味理解はしていません。ですからAIは人間では決して犯さないような間違いをしますし、抽象化や転移を非常に苦手とします。人間からすれば一般常識がまったく欠けていますし、人間がほとんど気づかない特徴を少し加味しただけで信じられないような間違いをするようになります（＝「阻害攻撃に対する脆弱性」）。(p. 348) こうなると深層学習が達成する知性を、人間が理解することはしばしば困難であることが明らかになります。この点でも人工知能は人間の知能に取って代わるものではないことがわかります。
■ AIは新しい作品を作り出す「創造性」は有しているが、その作品の価値を理解できない
人間の知性を考える上で、最後に創造性についてとりあげます。結論から言えば、現在のAIでもたとえば新しい音楽作品をたくさん作り出すことはできます。しかしAIは作品を作り出すだけで、自らが作り出した作品の価値を理解できません。ただやみくもに作品を出力するだけですから、私たちが「創造的」ということばに込めている含意を大切にするなら、AIが「創造的」であるのは、それが出力した作品の中からよいものを選択する人間と共同作業を行ったときだけです。 (pp. 402-403, p. 406) （注）
（注）しかし、素人考えですが、次のようにも考えられませんでしょうか。それぞれ教師あり学習で、音楽作成AIと音楽評価AIを別々に作ります。そしてその音楽作成AIと音楽評価AIをペアにして、前者が生み出す作品を後者が次々に評価します。音楽評価AIが出す高い評価を、音楽作成AIの報酬として強化学習 https://ledge.ai/reinforcement-learning/ を行います。そうすれば最初はただひたすらに音楽作品を出力していた音楽作成AIも、やがて訓練データを作った人間の審美眼にかなった「よい」音楽作品を作る確率が高くなってゆくでしょう。こうすれば少なくとも表面上は「創造的」な音楽作成AIができるでしょう。素人でも思いつく発想ですから、きっとすでにそのようなAIは作成されているでしょうが、人間の一人として私も転移に基づいた仮説生成をしました（笑）。
以上の整理から、さらに私なりに抽象化とアナロジーを使って仮説を作ってみます。
● 人間がAIを管理するべきであり、AIが人間を管理するべきではない
AIは人間のように意味理解をすることなく、さまざまな予測や判断を行います。その予測・判断は、例外的事象に対して弱いものです。また、そもそも悪意をもったハッカーによって（通常の人間にはわからないやり方で）容易に操作されえます。そうなると、重要な予測や判断に関しては、AIを参考にはしてもAIを絶対視してはいけないとなるでしょう。
もちろん人間も予測や判断において大いに誤りえます。しかし人間の場合は、その予測者・判断者とコミュニケーションを取ることによって、その誤りを正したりその誤りから生じた損害についての対処を行うことができます。しかし深層学習AIの場合、そのアルゴリズムは客観的対象物として存在しますが、それは複雑すぎてどんな人間もその意味を理解することはできません。そのようなAIに重大な決定を代行させることは危険極まりないことでしょう。
英語使用におけるAIの使用についても、間違いが笑い話として処理できるレベルの事柄なら人間の代わりにAIを使って英語を使用してもよいでしょう。あるいは、英語使用はAIによるものであり、思わぬ間違いがあることを利用者全員が承知し、法的責任などについても事前に取り決めをしておけばAIの利用も可でしょう。しかし、少なくとも今の見通しでは、人間が完全にAIに頼ることはあまりにも危険であり、大切な決定に関して人間はAIの出力を補助的に使い、最終的な決定は人間が行うことにしておかねばなりません。英語使用でいうと、もし重要な事柄に対して英語を使うのなら、人間はAIの間違いに気づきそれを修正できるだけの英語力を身につけておく必要があります。AIによりもっと英語使用が今後増えるとしたら、私は人間に求められる英語力はもっと高度になると考えます。（そのことに伴い、より英語という特定の言語が強力になることの是非は重要な論点ですが、それに関する考察はここでは省略します）。
● 物語的知性が重要になる
もし、これから人間にとって大切なのは、AIができないこと・不得意な能力を伸ばすことだとしたら、その1つは多くの物語の意味を理解し、みずからもさまざまな情報を物語の形にまとめ上げることでしょう。物語は、単一の公理などから演繹的には導出し難い、別種の複数の思考を共存させながら、そこに登場するさまざまな存在物の関係性を描き出す表現法です。物語を理解するものは、そこに直接的に描かれている関係性を認識するだけでなく、そこから派生しうるさまざまな可能性も想像することができます（「よい物語は、読み手を優れた書き手にする」とも言われています）。
さらに、雑多にしか見えない大量の情報を、1つの物語の形式にしてまとめあげ、複雑な情報を他人に効果的に伝達する能力は、文明の基盤であるということはハラリが力説するとおりです。新たな物語を作ること、または既存の物語を書き換えることは人間の世の中で強力な力をもちます。物語の理解と生成を行う力を仮に物語的知性と呼ぶならば、今後は文系・理系を問わず物語的知性が大切になるかと私は考えます。理系においても、多方面で展開している科学的知見や技術的可能性を統合して物語の形を与えないと、人々には伝わらないからです。またそんな物語に接する方も、物語を批判的に読みこなし、必要に応じてそれとは別の物語を作り出す必要があります。教育課程の1つとしての外国語教育（英語教育）においても、物語的知性をこれからますます重視してゆくべきだと私は考えます。
関連記事
Jerome Bruner (1990) Acts of Meaningのまとめ
https://yanaseyosuke.blogspot.com/2017/06/jerome-bruner-1990-acts-of-meaning.html
J. Bruner (1986) Actual Minds, Possible Worlds の第二章 Two modes of thoughtのまとめと抄訳
https://yanaseyosuke.blogspot.com/2017/10/j-bruner-1986-actual-minds-possible.html
【ユヴァル・ノア・ハラリを読む】 ハラリの「虚構」概念をめぐって ―─ヘーゲルとガブリエルを参照しつつ
瀧澤弘和（中央大学経済学部教授）
https://web.kawade.co.jp/bungei/3217/
ユヴァル・ノア・ハラリ、オードリー・タン対談「民主主義、社会の未来」全和訳
● 身体で感じて考えることがより重要になる。
人間の意味理解は、機械の記号処理と違って、厳密に定義された文字通りの意味（＝現実性の一部）を同定するだけでなく、現実性につながる可能性についてもさまざまなレベルで準備対応することを伴います。そのような反応が可能になるのは、人間の脳表象の基盤である身体の状態が複合的なネットワークを形成しており、かつそのネットワークが自己生成的 (autopoietic) に次の状態を作り出すからだと考えられます。人間にとってのことばは、その意味理解から現在・過去・未来につじてのさまざまな可能性を想起させます。その想起は、物理学的・生理学的には、身体におけるさまざまな情動の発生とその相互作用、そしてそこからの新たな情動の自己生成であると表現できます。人間は脳だけではなく、身体をもっていることで、さまざまな可能性に対応できる意味理解ができるといえましょうか。（さらには、生存のために重要な意味理解ができるともいえます）。
話が抽象的になりましたので、英語教育のレベルで語ります。ある英文・英単語に、学習者が接した場合、それを記号レベルでの変換（訳文・訳語の提示）で済ませるだけでなく、それが学習者の身体に（ということは最終的には心に）どんな反応をもたらすのかを大切にするわけです。その反応は訳文・訳語のように明確な形をもったものではなく、ぼんやりとした感じかもしれません。あるいは学習者がそれなりに感覚的に想像できるような反応かもしれません。いずれにせよ、英語理解をいったん身体のレベルに落とし込んでそこから何らかの心像（イメージ）が浮かび上がってくるように指導することが大切だと考えます。まだこれでも抽象的な表現なので、もう少し具体的に述べると、学習者が英語に接した時にその英語からさまざまなイメージが湧いてくるように、教師は文脈や課題の設定をすることが重要です。そしてその文脈や課題は、学習者が生きることにつながる実感をもてるようなものでなくてはなりません。まずは学習者の身体に響くような英語の提示を教師はするべきです。
● 学習時の情報提示を多元的で意味深いものにする
上の話をさらにもう少し具体的にするために、一対一対応式の単純な英単語テスト批判をします。この種のテストの典型例は、ある英単語を見たり聞いたりしたら、その英単語の日本語訳を再生するという形式をとります。こういったテストで高得点を取ることを目標とした学習では、英単語の意味がその訳語というごく一部に限定され、その英単語がもちうる可能性がほとんど学習者に想起されていません。学習する英単語に何の文脈も与えられず、課題設定も「訳語を覚えなさい。覚えないと罰が待っています」だけです。
その罰が学習者が生きる上で重要なら、学習者はそれなりに学習しますが、学習内容は単なる記号変換だけですから、その学習内容は他の領域にはほとんど転移することができない「テストのためだけの勉強」です。
またテストでいい点を取らないことから生じる罰を、「そんなことどうでもいい」と諦めた学習者にとっては、こういった学習はまさに「意味がない」ものでしかありません。そういった学習者にとってこの種の学習はまるでやる気がでないものとなるでしょう。そういった学習者に対して脅したり叱責したりする教師は、学びの支援をしているのか私には疑わしく思えます。
関連記事
國分功一郎・熊谷晋一郎 (2019) 『＜責任＞の生成 -- 中動態と当事者研究』（新曜社）を読んで：「英語が話せる」ことや「やる気が出ない」ことなどについて
このように一対一対応式の英単語テストを批判すると、必ずといっていいほど、一部の実践者や研究者から反論をもらいます。
実践者の批判は、「単純な課題でなければ対応できない学習者もいる。また、訳語を覚えておくことがその後の学習につながる」といったものです。前半の主張については、私は「そもそも課題が単純（形式的）であればあるほど、人間のやる気は一般に低減してしまうのではないか」と考えます。この点については私は下のブログ記事にまとめたぐらいの理解しかもっていませんが、フレイレの実践および、銀行型教育の概念が参考になるのではないでしょうか。（教師はひょっとしたら知らず識らずのうちに抑圧者になっているのかもしれません）。
関連記事
Paulo Freire (1970) Pedagogy of the Opressed
https://yosukeyanase.blogspot.com/2012/10/paulo-freire-1970-pedagogy-of-opressed.html
また、もちろん訳語再生にも何らかの用途はあるでしょう。一般的に、何の結果も生み出さない営みというものはないからです。ですから私は訳語再生の意義を完全否定するものではありません。しかし、何か他の学習法はないものだろうかと思わざるをえません。
研究者の批判は、「一対一対応式の単語テスト学習でも何らかの成果は出ていることが実験で立証されている」というものです。これに対する私の再反論は、まずは上の実践者への再反論と同じものです（何かをやれば何らかの結果はでるだろう）。
さらに加えるなら、実験で結果を出そうとすれば、その結果は測定が容易なものが選ばれるバイアスを有します。ですから、「単純な単語学習でも結果が出ることが実験でわかった」というのはマッチポンプというか、一定のバイアスがかかった測定のように思えます（注）。とりわけ、英単語の意味を豊かに学習させる方法と一対一の単純学習法を比較した研究が、その測定方法として単純な訳語再生などの形を取れば、後者の優位性が示されるのは驚くべきことではありません。
（注）
この点で、私は以下の記事で歴史家が書いたことばに共感します。
A Once-in-a-Century Crisis Can Help Educate Doctors
By Molly Worthen
https://www.nytimes.com/2021/04/10/opinion/sunday/covid-medical-school-humanities.html
What about the charge — partly vindicated, I admit, by the small number of radical postmodernists in our ranks — that humanists in academia downplay “empiricism and evidence,” as The Lancet put it? It’s more accurate to say that humanists take evidence so seriously that they emphasize viewing it from multiple vantage points and recognizing one’s own limited perspective.
人文系が数量的データに懐疑的なのは、エビデンスを軽視しているからではなく、逆に重視しており数量的データに限らず広くエビデンスを求めなおかつ自らの見解の限界を自覚するべきだからです。
ちなみに、次のことばにも我が意を得た思いでした。
medicine is not a science but an art that uses science as one of many tools
言語教育研究も同じです。言語教育研究自体は科学ではありません。言語教育研究は1つの技芸 (an art) であり、科学は言語教育研究が利用する数多くの道具の1つに過ぎずません。
単語学習に限らず、私が言語学習についての実験研究をあまり評価できないのは、実験研究の測定方法では言語学習の複合性を十分にカバーできないからです。単語学習にしても、それは短い時間に終了・完結するものではなく、その単語を数々の事例で使用しながら、社会的かつ歴史的に進行してゆくものと考えるべきでしょう。
関連記事
ウィトゲンシュタイン『哲学的探究』の1-88節-- 特に『論考』との関連から
https://yanaseyosuke.blogspot.com/2012/01/1-88.html
ウィトゲンシュタイン『哲学的探究』の1-88節の個人的解釈
私からすれば、単純な英単語テストがこれだけ普及しているのは、それが教師が学習者を、研究者が被験者を、管理しやすいからだとと思えます。
単純な英単語テストの信奉者の方々はどうぞ次のような問いに答えてみてください。
・学習者の中で単純な英単語テストを好む者はどれだけいるだろうか？
・単純な英単語テストを好みかつそれでよい点数を得る学習者が、どれだけその学習内容を他の領域に転移させているだろうか。（訳語再生能力は、学習者が自らの意見を話す際にその英単語を使用できることにどれだけつながっているだろうか。それどころか画一的な訳語再生によって学習者の英文読解すらも阻害されていないだろうか？）
・単純な英単語テストを好まない学習者が、それを教師によって毎週強制されることにより、どのような長期的効果が生じているだろうか。ましてやその学習者がそのようなテストで点数を取れず罰を受けることからどんな影響が生じているだろうか（長期的効果を実験的に実証することは困難だが、教師としての長年の経験から答えてほしい）。
繰り返しになりますが、私は一対一対応式の英単語テストは、教師・研究者にとって実施と測定が容易だから好まれているのだと考えています。ひょっとしたら一部の学習者は、そういったテスト学習を好んでいるかもしれませんが、私はそれは教師が長年の実施でそのように仕向けたからからではないかとも思っています。
仮に何らかの単純なテスト・学習が必要にせよ、例えばそれは英単語を提示したら、その英単語を使っている所定の英文を再生するといった形ではできませんでしょうか（もちろんその英文は学習者にとって十分に意味深いものである必要があります）。
また英単語を提示する際も、ただ単語の綴り・発音・訳語を提示するだけでなく、その単語を含む英文・文脈・エピソードや写真など、できるだけ多元的に関連情報を提示し、単語知覚をその他の知性と連関させるべきではないでしょうか。そうやってこそ、単語学習は、機械的なものから、人間的なものになり、意味深く頑強なものになるような気がします。そして学習を、既定の答えの単純再生でなく、新しい領域への転移を伴う創造的なものにするべきでしょう。たとえそれらが測定困難ゆえに管理困難なものにせよ、人間は意味の豊かさを学び、既習事項をどんどん転移して創造性を発揮することを学ぶべきでしょう。。少なくともそれが私が今回の読書から学んだと信じていることです。
関連記事
語彙学習の3段階と言語習得の社会性について：今井むつみ・佐治伸郎（編著） (2014) 『言語と身体性』（岩波書店）を読んで考えたこと
https://yanase-yosuke.blogspot.com/2021/04/3-2014.html
語彙教授・指導法の比較と検討 : エピソード化技法による語彙指導を中心に
● AIからの補助を受けての判断は高度なものとなる
この本から学んだ重要な教訓は、人間はAIを使いこなすべきであり、AIに依存してしまってはいけないということです。しかしその使いこなしは必ずしも簡単なものではありません。
私は先日来、Wordtuneというアプリを常用しています。任意の英文に対して、10通りの書き換えを提示してくれます。私は有料版に変えたので、さらに、フォーマル、インフォーマル、短め、長めの4つのバージョンでそれぞれ10通りの書き換えを知ることができます。英語を書きながら、どこか自分の英文に凡庸さを感じたとき、このアプリは本当に役に立ちます。
関連記事
Wordtuneで、ある英文の10通りの表現法を生成し、表現の幅を広げる ＋ AI時代の英語学習について
https://yanase-yosuke.blogspot.com/2021/04/wordtune10-ai.html
しかしこのWordtuneの使いこなしにはある程度の判断が必要です。
まずは、どこで使うべきかの判断が必要です。自分が書くすべての英文に対してこのアプリを適用すれば時間がかかって仕方ないからです。またこのアプリが提示してくれる数多くの選択肢の中からどれを選ぶべきかの判断も重要です。この判断がいいかげんだと、文章全体としてはかえってまとまりが悪いものになります。また提示してくれる書き換え例の中には、明らかに書き換えすぎで不適切なものも少数含まれていますから、それを排除する必要もあります。ということは、そういった判断ができなければ、このアプリはかえって英語使用を混乱させるだけになってしまいます。
もっとも、「AIは、扱う対象が限定されデータの典型性が高まれば高まるほど、精度の高い結果を出すことができる」という原則に従えば、次のようなアプリの価値は高く評価できます。
Langsmith Editor
このアプリは学術的な英語論文だけを対象とし、しかもその論文を、コンピュータ科学、化学、医学などの分野別で深層学習させていますから、その出力（＝よりその分野の英語論文で出てきそうな表現の提示）もより信頼がおけます。とはいえ、最終的な判断は人間が行うべきなのは変わりありません。
また、機械翻訳が生み出した英文を編集・校正するのは、人間の翻訳者が作成した英文を直すよりも難しいという報告が、プロの翻訳者からなされています。
機械翻訳、信頼して大丈夫？
https://note.com/sagi_291/n/n67c80c6944e6
詳しくはこの記事を読んでほしいのですが、チェック（ポストエディット）上の問題点で、致命的なものとして「原文訳文の数字」「肯定否定」の誤訳、大問題につながり兼ねない現象として「訳抜け」と「固有名詞」についての誤りを挙げています。その他、翻訳文の読みやすさや理解そのものに影響を与える「用語」「表現」を揃えることも重要です。
また機械翻訳アプリを使うとデータが流失してしまう可能性があることなども著者は指摘しています。
こうなりますと、機械翻訳は英語ライティング能力を大幅に補助・増強してくれるが、それを重要な事柄で使うためには、細心の注意、専門知識、英語のセンスなどが必要であることがわかります。また、守秘義務が絡む時にも注意が必要です。
***
以上、「私たち人間はAIの進歩を過大評価する一方で、自身の知性の複雑さを過小評価している」という観点から、本書の一部をまとめ、私なりの考えを付け加えました。これからもAIについての原理的な理解を深めながら、私の仕事である英語教育において具体的にどうAIを活用してゆくべきかについて考え続けてゆきたいと思っています。
