Noam Chomsky: The False Promise of ChatGPT (New York Times)

言語学者ノーム・チョムスキー博士がNew York Timeに寄せたChatGPTやマシンラーニングを基にしたAIに対する意見記事。

私が最も共感したのは以下の段落：

True intelligence is also capable of moral thinking. This means constraining the otherwise limitless creativity of our minds with a set of ethical principles that determines what ought and ought not to be (and of course subjecting those principles themselves to creative criticism). To be useful, ChatGPT must be empowered to generate novel-looking output; to be acceptable to most of its users, it must steer clear of morally objectionable content. But the programmers of ChatGPT and other machine learning marvels have struggled — and will continue to struggle — to achieve this kind of balance.

本物の知性は道徳観念を持ち合わせている。一連の道徳原則を用いて、していいことといけないことを判断し、私たちの限りない創造性はそれによって自制される。Chat GPTが役に立つためには、大多数の利用者が受け入れるような斬新な回答を提供しなれればならない。そして道徳的に好ましくない内容を避けなければならない。しかし、ChatGPTのプログラマーやその他マシンラーニングの天才たちは、このバランスを達成するために悪戦苦闘てきたし、これからも苦労するだろう。