2022/12/10

ChatGPTについてのThe New York Times, The Economist, MIT Technology Reviewの記事 -- 私たちが興奮しようが冷笑しようがテクノロジーは後戻りしない

   【この「時事」カテゴリーの記事は、学生さんへの課題リマインダーメールに掲載した文章をこのブログに転載しているものです。】


****


最近公開されたAIであるChatGPTについて、The New York Times、The Economist, MIT Technology Reviewがそれぞれ短い記事を掲載しました。私たちがこの新たなAIについて興奮するにせよ、やや冷笑的な態度を取るにせよ、確実にテクノロジーは社会を変えていると感じざるをえません。

以下、これら3つのメディアが伝えた記事について短くまとめます。メディアのトーンの違いもわかるでしょう。


The New York TimesのOpinion欄は、ChatGPTについてのエッセイを2本掲載しました。


[1] The Brilliance and Weirdness of ChatGPT

By Kevin Roose

https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html


[2] Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?

By Paul Krugman

https://www.nytimes.com/2022/12/06/opinion/chatgpt-ai-skilled-jobs-automation.html


[1] は、ChatGPTがなしうることに驚くツイートを多く掲載するなど、この新たなAIのインパクトを伝えるものでした。[2] は、産業革命の時期に生じたような仕事内容の変化が生じ、それは長期的には人類を豊かにするが、短期的には多くの職業人に痛みを伴う変革をもたらすだろうと説きました。やはり毎日刊行される新聞という性質のせいか、どちらの記事もわりに常識的なものかと思います。


その後、The EconomistにもChatGPTについての記事が2本掲載されました。


[3] Artificial intelligence is permeating business at last

https://www.economist.com/business/2022/12/06/artificial-intelligence-is-permeating-business-at-last


[4]How good is ChatGPT?

https://www.economist.com/business/2022/12/08/how-good-is-chatgpt


[3]はThe Economistらしく、やや冷静にChatGPTの興奮とは少し距離をおいています。その記事は、AIが浸透するにつれ人々はそれを当たり前と思うが、そういった "boring AI" がますます普及していること、しかしその普及と共に法的責任といった問題が浮上することを論じています。

[4]は気楽な短い記事で、ChatGPTに、ChatGPTの解説をシェイクスピア風の言語で書かせた結果を紹介した後、人間の書き手の需要がなくなることはしばらくないだろうと結論しました。


MIT Technology Reviewは、ChatGPTの公開以前に、Metas社のAI (Galactica) に関する記事を掲載していましたが、それが結果的にはChatGPTに関連する内容となっていました。


[5] Why Meta’s latest large language model survived only three days online

By Will Douglas Heaven

https://www.technologyreview.com/2022/11/18/1063487/meta-large-language-model-ai-only-survived-three-days-gpt-3-science/


この記事は、科学文献を読み込み科学的な答えを出すだけだったはずのAI (Galactica) をMeta社が公開したら、科学的にでたらめな内容をかなり出力するので、3日で公開停止となったという記事です。

要は、Galacticaは "capture patterns of strings of words and spit them out in a probabilistic manner"をするだけだということです。このAIも "a superlative feat of statistics”を行っているだけで、人間のような知性を発揮しているわけではないわけです。これは現在の深層学習一般の特徴といえるでしょう。

実は [1] ではなばなしい紹介のされ方をしたChatGPTも、大笑いできるような非科学的な答えを出します。コンピュータ科学者のAndrew NGは、ChatGPTが「そろばんは、深層学習においてはDNAコンピューティングよりも高速である」と答えたことをツイートで伝えています。


しかし、ChatGPTには、気になる特徴があることを、次のMIT Technology Reviewの記事が短く伝えています。


[6]ChatGPT is OpenAI’s latest fix for GPT-3. It’s slick but still spews nonsense

by Will Douglas Heaven

https://www.technologyreview.com/2022/11/30/1063878/openai-still-fixing-gpt3-ai-large-language-model/


特徴とは、ChatGPTの完成には、人間の「教育」が加わっているということです。人間がAIに(正解付きの)訓練データを提供するだけでなく、AIに好ましい回答例を与えています。AIは、それをもとに強化学習を行っています。ですからChatGPTは単なる「深層学習」ではなく「深層強化学習」を行っているわけです(注)。


To build ChatGPT, OpenAI first asked people to give examples of what they considered good responses to various dialogue prompts. These examples were used to train an initial version of the model. Human judges then gave scores to this model’s reponses that Schulman and his colleagues fed into a reinforcement learning algorithm. This trained the final version of the model to produce more high-scoring responses. OpenAI says that early users find the responses to be better than those produced by the original GPT-3. 


たまたま最近読む機会を得た『ラディカリー・ヒューマン』(ドーアティ・ウィルソン著、山田美秋訳、2022年、東洋経済新報社)でも、大量のデータで力任せに行う深層学習に、人間の「教育」を加えることの重要性を多くの事例で伝えていました。



新しいテクノロジーが登場するにつれ、人々は興奮したり、逆にシニカルになったりします。しかし、テクノロジーは後戻りはしません。私たちは着実に--もし指数関数的進展という仮説を信じるなら加速的に--新しい時代に入っていると考えるべきでしょう。

ちなみに[5]や[6]などの記事を読むため、私はMIT Technology Reviewの有料会員になりました。これからも上の[1]から[6]の違いでわかるように、各種メディアの特徴に自覚的になりながら、時代の流れをできるだけ英語で理解してゆこうと思います。英語がコンピュータ科学者たちがもっとも多く使っている自然言語だからです。



(注)ChatGPTの注目するべき点は、それが深層強化学習を行っていることだという指摘は、次の記事にもありました。


チャットできるAI、ChatGPTが「そこまですごくない」理由。見えてしまった限界

清水亮

https://www.businessinsider.jp/post-263042





「英語教育の希望としての田尻実践」のスライドと準備録画の公開、および若干の感想

3/23(土)の「 人を育てる英語教育:田尻悟郎の授業は大学生の人生にどう影響を与えているのか FINAL! 」は、会場がほぼ満員で終始いい雰囲気の中で終わりました。激しい雨の中お越しいただいた皆様、煩瑣な裏方作業を引き受けてくださいました凡人社の皆様に厚く御礼申し上げます。 下...