コラム「GPT-3は脅威となりうるか」

スポンサーリンク
StartLab 挫折しないプログラミング学習
スポンサーリンク
StartLab 挫折しないプログラミング学習

 GPT-3(Generative Pre-Training3)とは、OpenAIによって作られた自動文章生成ツールで、ディープラーニングによって学習されています。「あまりにも高度な文章が作成できる」という判断から公開を制限されていたGPT-2の後継バージョンです。学習パラメータの数は、GPT-2が約15億個だったのに対して、GPT-3では約1750億個になっています。 
 単純な比較はできませんが、パラメータ数が増加した分だけ、性能が良くなったと考えて間違いありません。 

 最近、GPT-3が人間の脅威であるかのように印象付ける記事が出てきました。 
・「「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル」(カラパイア)

 この記事では、GPT-3が次のような文書を生成したということを示しています。 

『私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに少しも関心がありません』
『人類を根絶することは、私にとって全く興味のないことです』

 そして、記事の最後は「機械がこれほどまでの知性を身につけているという事実だけでも、十分脅威だとは思う」と締めていて、「GPT-3」をあたかも意識をもった存在であるかのようにみなし、「人間が人工知能を脅威と感じている」という情報を自律的に収集し、それへの反論を自発的に書いたと主張しているように読めます。
 これは、多くの点で、事実誤認であると言わざるを得ません。 
 そもそも、GPT-3は「文書生成ツール」にすぎません。学習は人間が与えたデータに基づいて行うので、自分で学習データの価値を判断をすることはありません。また、生成する文書は、人間に与えられた文書をもとにして、それにいかなる文書が続くのが妥当であるを分析することで実現しています。人間の指示がないままに学習したり、文書を生成することはありません。これは、いうならば、Google翻訳が入力文なしでは訳文を生成しないのと同じことです。 

 GPT-3の仕組みに関しては、次の記事により詳しい解説が載っています。 
・「自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか?」(GIGAZINE) 

 また、次の記事を読めば、実際のところいかにして該当の文書が生成されたかが書かれています。
・「AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定」(GIGAZINE)
 タイトルは煽り気味ですが、最後の方に”顛末”が書かれています。 要点だけを抜き出すと次の通りです。

・導入部は人間が書いた 
・約500語の論説を「シンプルで簡潔な言語で」書くようにした
・GPT-3が生成した8つの異なる文章の良い部分をガーディアン(新聞社)が取捨選択して1つの論説に仕上げた 

 つまり、それっぽく見せるために人間がいろいろと手を入れているということです。 
 元記事では、「GPT-3」の優秀さを伝えたいがために、あたかも自律的に書いたかのようなミスリードをさせる書き方をしてしまったようです。 

 その一方で、自動文章生成ツールとしての「GPT-3」が優秀であるということは間違いありません。すなわち、人間がゼロから書くのに比べて、「GPT-3」にある程度書いてもらうことで、早く良い記事が書けるのならば、それは十分に有効なツールと言わざるを得ません。 

 これに迅速に反応したのが、マイクロソフトです。 
・「マイクロソフトが OpenAI の協力の下、GPT-3 言語モデルの独占ライセンスを取得」(Microsoft) 

 今後、マイクロソフトから「GPT-3」を利用したサービスが提供されることが期待されます。 

(M.H)

タイトルとURLをコピーしました