生成AI最大の弱点とは？

ChatGPTに代表される生成AIは、今年最大の話題になっていると言っても良いと思いますし、世の中の関心も非常に高まっています。当初は「自信たっぷりに嘘をつく」などと揶揄されましたが、仕組みを知り、限界と可能性をわかった上で使いこなせば、多くのメリットを享受できます。もはや「様子見」の段階は過ぎ、「どのように活用すべきか」という段階に入っていると言って良いでしょう。

今では様々なベンダーが生成AIのサービスを開始しており、多くの企業がその採用を検討しています。この傾向は今後も加速するでしょうが、現時点でどうしても「使いにくい」と思ってしまう点があります。それは、「最新の情報に対応するのが難しい」ということです。
今、ChatGPTに何かを聞いても「私の知識は2021年までのもので・・」などと返されます。これには「何で?」と思った方も多いのではないでしょうか。

これは、生成AIの仕組みに原因があります。生成AIのモデルを作る（訓練する）ためには、膨大な計算が必要となり、そのためには数千台のサーバーを使っても数週間から数ヶ月かかると言われていますし、そのためのクラウドの利用料を考えると、相当なコストがかかります。
生成AIは、AIモデルを大規模化することで精度を上げることに成功しました。AIモデルの規模を表わすのは「パラメータ数」ですが、ChatGPTの元になっているGPT-3のパラメータ数は1,750億です。2018年にリリースされた第1世代のGPT-1では1億ちょっとでしたから、ここ数年で1,500倍以上になったということです。それ以前のAIからすれば、さらに1〜2桁違うでしょう。精度が飛躍的に向上したのは、そのためです。
しかし、モデルが大きくなれば、計算量が増えます。単純に考えれば、1,500倍の時間（とそれに見合うコスト）がかかるということです。こうなると、Google検索のように「今朝のニュースがすぐに検索結果に反映される」ということは不可能です。コストを無制限にかけてクラウドのリソースを注ぎ込んだとしても、そんなに高速かつ頻繁に大規模なAIモデルをアップデートすることはできません。

ChatGPTのデータが2021年で止っているのは、ChatGPTの学習に時間とコストがかかりすぎるため、ある時点で止めざるを得なかったことを意味しているのでしょう。それに、生成AIでは学習後にモデルのファインチューニングを行う必要もあり、それにも時間とコストがかかります。ChatGPTの性能をわかって貰うためにはこれで十分だろう、という考えもあったのかも知れません。（もともとは無料で「お試し」的な公開でしたから）

MicrosoftのBingやGoogleのBartでは、生成AIに加えてリアルタイムな検索結果も合わせて表示するような試みも行われていますが、やはりどうしてもチグハグな感じは否めません。今後は、AIモデルを小型化して更新頻度を上げるとか、リアルタイムな情報をうまく取り込めるような仕組みを考えていく必要があるのではないでしょうか。