「ChatGPT関連のサービス立ち上げは大手の特権」？開発経験豊富なゼタントが語る、リアルなコストの話

ChatGPTを活用したサービス開発は、ビジネス界におけるトレンドとなっています。そのような流れを受けて、「ぜひ自社でも」とサービス開発を検討している企業は少なくないでしょう。

しかし、AI開発の知見が豊富な株式会社ゼタント代表取締役・久保氏、ならびに同社エンジニア・橋本氏によれば、ChatGPTを用いたサービス開発をスケールさせる（事業として成り立たせる）のは、中小企業には難しい一面もあるそう。

「大手の資金力があってこそ提供できるサービスも多く、小規模事業者が品質・価格でメリットを打ち出すのは難しい」——有識者2人は、そう語ります。

一体なぜ、ChatGPTを用いたサービス提供は「大手企業の特権」になりがちなのでしょうか？長年AIに携わってきた有識者2人の目線から、リアルな落とし穴について語っていただきました。

社内サービス「要約くん＠slack」を2〜3日で開発

大手通信会社でAI研究に携わった、実績あるメンバーぞろいのゼタント

ーーまずは、株式会社ゼタントについて教えてください。

久保：当社では中小事業者や士業事務所を始めとした多様な業種業態のお客様のDX（デジタル化・IT化）を支援しています。また、自社サービスとして、オーダーメイド＆リーズナブルなサブスク型のクラウドソフトウェア開発フレームワーク「Cloud Tailor（クラウドテーラー）」を展開しています。

会社としての事業とは別に、私と橋本は、両者ともKDDIでインターネット技術や機械学習、AIの分野にも取り組んだバックグラウンドを持ちます。そのため、AI開発について相談・依頼されることも多々あるんです。

ChatGPTをSlackとAPI連携させたシステムを開発

ーー御社では、ChatGPTを用いた社内システムを運用されているそうですね。これこそ、お二人が個人的に始められたプロジェクトなのでしょうか？

久保：その通りです。ChatGPTはとにかく話題のサービスですから、試しに自分たちでも使ってみることにしました。

具体的に開発したのは、Webページの内容を要約するSlackチャンネル「要約くん＠slack」です。URLを送信するとチャンネルに要約文が投稿され、内容をざっくり把握できるという比較的シンプルなシステムですね。

これまで社内では、参考になる情報を見つけた際に、SlackでURLを共有してきました。しかしそのすべてに目を通すのには、かなりの時間がかかります。そこで「要約くん＠slack」を活用し、内容を要約することで、自分にとって必要な情報なのかを判断する手助けになればと考えました。

今のところはあくまでも社内向けなので、外部に向けて販売する予定はありませんが、よきユースケースを生み出せたと感じています。

ーー非常にコンセプトが分かりやすいですね。開発にはどのくらいの時間がかかったのでしょうか？

橋本：わずか2～3日です。とくに、ChatGPTのAPI接続についてはすでに多くの知見が世に出ており、それらを参考にすれば、ものの5分程度で完了しました。

一方で苦労したのは、本当に必要なテキストのみを要約することです。たとえば広告が複数あるWebページを要約する場合、ChatGPTは広告の情報もデータとして学習してしまい、意味の分からない要約文を出してくることがありました（笑）。この調整が、大変と言えば大変でしたね。

ChatGPTの落とし穴は「パケ死」⁉︎中小企業がサービスをスケールさせる難しさ

ChatGPTは高度なAIを気軽に利用できるのが魅力

ーー実際に自社用にアプリを開発してみて、どのような印象を受けましたか？

久保：現在、ChatGPTには比較的安価なGPT-3.5と、高機能・高価なGPT-4がありますが、GPT-4でさえ自分たちでAIを開発するコストよりははるかに安いのが魅力だと感じました。ChatGPTくらい高度なAIを自分たちで用意するには何百万円、何千万円のコストが必要になるので、少額から試せるのは明確にうれしいポイントですね。

橋本：開発難易度にしても、「要約くん＠slack」を作ってみて、それほど高くはないと感じました。AI関連サービス開発というと難しそうな印象かもしれませんが、ChatGPTに関して言えば、知識を持った技術者であれば別段苦労するポイントはなさそうです。

ただ、研究者的な視点から申し上げると、今のムーブメントは「手段」と「目的」が逆転しているような印象も受けます。

本来、技術はあくまでも「手段」であって、「こういうサービスを作りたい」という目的に応じて選択されるべきです。

しかし、ChatGPTにおいては、ChatGPTを使うことが「目的」になってしまっているのではと。もちろん、そのなかから優れたアイディアが生まれる可能性もあるでしょうから、必ずしも否定するつもりはありませんが、ことビジネスとなると、事業として成り立つかどうか疑問が残るユースケースも散見されます。

トークンを使いすぎると、「パケ死」の危険も

ーー事業として成り立ちづらいのでは、と感じるのはなぜですか？

久保：とくにGPT-4を使う場合、料金体系はトークン数（質問文・回答文の文字数のようなもの）に応じて決まります。そして、日本語は英語と比較して消費するトークン数が多いため、同じ質疑応答であっても日本語のほうがコストが高くなります。

しかもChatGPTは、前に行われたやりとり（文脈）も再度読み込んだうえで回答するため、1回目は30字だったとしても、2回目は30字＋新たな40字、3回目は、30字＋40字＋新たな30字というように、前回の入力分も足し合わせた文字数がコストとしてかかってきます。

この仕組みを知らずに無茶な使い方をすると、いわゆる「パケ死」（パケット通信をしすぎた結果、高額請求されること）につながります。個人利用の規模感であれば気にする機会はありませんが、ビジネスにするならば、きわめて重要なポイントです。

生成AIを独自開発する場合は潤沢な資本が必要

ーー最近ではChatGPTを活用しつつ、自社のデータを読み込ませた独自のAIを開発する流れもありますよね。

久保：そうですね。最近では、ぐるなびさんがChatGPTを活用したAIチャットボットの実証実験をスタートしました。ChatGPTを活用しつつも、自社のデータを組み込み、独自のAIを掛け合わせたサービスです。ユーザーの課題に即した素晴らしいサービスですが、一方で、「これは莫大な自社データと資金力があるからこそ実現できる事例だ」とも感じました。

実は私たち自身も、ChatGPTそのものをAPI接続するのではなく、ChatGPTに使われている技術を調べて、それをもとに独自のサービスを開発できないか考えたことがあるんです。

しかし、実際に自分たちでChatGPTと同じような、いわゆる生成AIと呼ばれるシステムを作ろうとするとものすごいお金がかかることが分かりました。ChatGPTは世界中のインターネットの情報を集めて、そのデータを学習するAIなのですが、自分たちでそれをやろうとすると、ちょっとしたテストですら、高額なサーバーを何日もフル稼働させなければならないんです。

これでは、資金のない中小企業にはほぼ不可能です。ネット上には「生成AIを調査してみた」という旨のレポートがいくつか上がっていますが、おそらく、いずれも莫大な資金を要したはずです。

そうした実情を踏まえると、中小企業や個人が大手企業と同レベルのサービスをつくることはコスト的に難しいと言わざるを得ません。「精度が低くてもよいからやってみよう」と割り切るのであれば良いですが、費用対効果をしっかりと感じられるほどのビジネスにするのは、まだまだ難しい感触があります。

ChatGPTのメリット・デメリットを把握しながら活用することが大切

流ちょうな日本語で「嘘をつく」ように見えるのが最大のネック

ーーそのほか、ChatGPTを活用するうえで気をつけるべきことはありますか？

久保：そもそも、ChatGPTのしくみ自体はそれほど珍しいものではありません。それでもなお、これほどまでに流行しているのは、「それっぽい日本語で返してくれるから」です。

過去にもすぐれたAIはありましたが、どちらかといえば「野菜の傷を見分ける」など、一般ユーザーの生活とは離れた場面で活用されてきました。一方でChatGPTは、まるで知能を持っているかのように言葉を自由に操ります。この分かりやすさこそが、昨今のブームを引き起こしていると見ています。

ただし、それに付随する問題として、AIが嘘をつく（誤った情報を提供する）リスクに気づきづらいことが挙げられます。

たとえば従来の翻訳サイトなどは、日本語の精度が低かったため、ユーザーも半信半疑で利用していました。ところがChatGPTは、流ちょうな日本語で嘘をつきます。そのうえソースを提示しないため、嘘かどうか判断をするのが難しい。このリスクを正しく認識しないままで短絡的にビジネスに導入すると、お客様トラブルに発展する可能性が高まります。

なおかつ、セキュリティ的な不安もあります。個人情報や会社の機密情報は扱うのを避けるべきでしょう。そうなると、API連携するにしても、用途が限られます。

ChatGPTはアイデア出しと相性がよい

ーーでは、どのように活用するのがいいのでしょうか？

久保：人が対応すべきかどうかのスクリーニングには役立つと思います。たとえば問い合わせ対応について。すべてをChatGPTで完結させるのは、信頼性や精度の面で適切ではありません。しかし、毎日かなりの量の問い合わせがあり、パターンがある程度一定だとすれば、はじめにChatGPTを通すことで、人件費削減につながります。

文章のチェックも得意ですね。「矛盾点をあげなさい」などの命令を出せば、気付きを与えてくれます。セキュリティ面や信頼性を人間が担保できるならば、リーガルチェックにも活用できそうです。

また私たちエンジニアの場合は、プログラミングの手助けとして活用しています。Github Copilotのように、どんなシステムをつくりたいかを相談し、手助けしてもらう役割としては心強い味方です。

橋本：実は「要約くん」の名前自体も、ChatGPTに20個ほどの名前を提案してもらって決めました。このようにアイデアを出すのは非常に得意ですね。

久保：その通りです。今日はコスト面についてやや厳しいお話をしましたが、言うまでもなくChatGPTはすぐれたサービスで、使い方によっては大きな威力を発揮します。メリット・デメリットを把握した上で、適切なところで活用するのが良いでしょう。

取材：夏野かおる　執筆：林春花