GPT-3.5 Turboファインチューニング(fine-tuning)対応とは

GPT-3.5 Turboがファインチューニング(fine-tuning)に対応しました。GPT-4も対応予定ですがリリースされていません。ファインチューニングによってGPTに専門家レベルの知識を持たせることもできますし、口調や回答形式などをチューニング出来ることを意味しています。2023年9月14日時点での出来そうなこと、コスト、について取り上げます。

ファインチューニングの本題に入る前に

本題に入る前に、GPT-3.5、GPT-3.5 Turbo、GPT-3.5 Turbo fine-tuningとは何ぞや？という方もいらっしゃると思いますので、ご説明します。ご存じであれば読み飛ばしていただいても良いかと思います。

例えるならこんな感じです。

GPT-3.5 TurboはOpenAIがGPT-3.5に学習を行ったとても賢い大規模言語モデルです。一般人が気軽に触れるのはこちらです。圧倒的にGPT3系よりGPT4の方が賢いのですがファインチューニングに未対応であること、有料であること、利用の制限も存在するのでビジネスに使うには厳しい状況です。GPT4のファインチューニング対応が待ち遠しいです。

ファインチューニングって何？

定義で言えば、微調整すること、です。でも微調整とは？となると思います。 GPT3.5 Turboは幅広い質問にそつなく解答を返します。その反面、専門的な質問には対応できません。例えば企業内の情報や、法律や医療にかかわる深い知識はインターネットで探せるレベルの回答までしかできません。

GPT-3.5 Turbo にファインチューニングを行えば、専門家のような知識を持たせることが出来ます。その他に話す言語を固定すること、口調やフォーマットを指定して個性を持たせることもできます。

GPT-3.5 Turboのファインチューニングってお高い？

お察しのとおり、少し高いです。GPT3.5と比べるとファインチューニングを行ったモデルでは単純計算では約8倍の単価になります。ファインチューニングを行ったモデルは賢く簡潔に解答を返せるようになるため総コストが少し下がる傾向にあります。

ファインチューニングに機密情報を使ったら流出しない？

安心してください。投入したデータの流用をしないことをOpenAIは保証しています。そのため、企業内でのナレッジ共有などで利用が広がっていくでしょう。

GPT4で良いのでは？

特定の口調や箇条書きの数などをプロンプトで指定すれば、良い解答を返すこともあります。しかし、そのプロンプトに特化しているわけでは無いので使い勝手がイマイチです。汎用的なGPT4ではビジネスシーンには適用が難しいです。文字制限、回答時間においてもGPT3.5に軍配が上がります。

GPT-3.5 Turboのファインチューニングで出来そうなこと

ファインチューニングによってGPT-3.5 Turboをビジネスに活用できる可能性は高く、様々なベンダーが企画を練っていると思います。個人的な見解ですが下記のようなサービスがリリースされるのではないかと思います。

特にエンタメに特化したGPTは個性があり面白そうです。AIキャラクターも数多く生まれてきましたが、GPT-3.5 Turboのファインチューニングで作成されたものは別次元のクオリティになるでしょう。

GPT-3.5 Turboをファインチューニングすることでとても賢い専門家でありつつ個性的なAIキャラクターである、なんてシステムも構築できるでしょう。