shimojik
しもじま
サマリー
- LLMの原価が高く、サービス価格が数千円になることが問題
- チャットGPTなどのサービスが3000円から4500円程度で提供されている
- チューニング可能なAPIの原価計算が可能で、ユーザーにとっては高価
- 新機能「アシスタント」はリトリーバルで学習データを読み込ませる機能
- 学習データ収集は容量が数百メガになりやすく、コストがかかる
- ユーザーごとにパーソナライズされたサービスを提供するとさらにコストが増大
- 単一のやり取りで原価が1000円程度かかることがある
- 通常のAPI呼び出しでは、一回のやり取りで数百円の原価がかかる
- サービス提供にはユーザーあたり数千円の原価を考慮する必要がある
- 価格設定は少なくとも1000円から2000円では難しく、計算を繰り返す必要がある
- AIを利用したサービスは多くの人に楽しんでもらいたいが、コストが高い
- ヘビーユーザーになるとコストが数万円に跳ね上がる可能性がある
- APIベースのサービスは構造的にコストが高いため、価格を下げるのが難しい
- AIを活用した学習サービスは、人に教えてもらうような高価格帯になる可能性がある
- 安価なAIサービスは体験の質が低下するため、価格と体験のバランスが課題
- 動画教材と比較してもAI学習サービスは高価だが、有用性は高い
- 社会人や企業はコスト対効果を考えられるが、学生には高コストが問題
- 原価が高いことは変えられないため、サービス設計に影響する
記事
LLMの高コスト問題
いやぁ、LLMの原価が高いですね。これは本当に困ったというか、だからもう考え方を変えないといけないなと思うんですけど。いやぁ、その原価の時点で結構な金額にいってしまうので、そうするとサービス自体の値段を原価すれすれで設定したとしても、それなりにいってしまうという数千円。チャットGPTとかが3000円とか4000円、チームプランとか出て4500円とかぐらいとか4000円ぐらいとか超えてるわけじゃないですか。まぁ、それぐらいはいくよね。チューニングがちがちにできるチャットGPT側がそれぐらいの金額帯になるわけですから。
APIの原価計算とサービス価格
チューニングできるというか、そもそも原価計算、本当の原価計算ができるわけじゃないですか。っていうのからすると、APIの費用から計算する我々、ユーザー側っていうか、APIのユーザー側は、それよりどうやっても普通に使えるサービスにすると高くなるわけですよ。
新機能アシスタントとデータ収集のコスト
それこそ先日、先日というかもう2ヶ月ぐらい経ちましたけど、出たアシスタントっていう機能っていうかAPI出ましたけど、あれとかはそのアシスタントを作ってそこにリトリーバルで学習データを読み込ませておけるみたいな感じになってるんですけど。この学習データをちょっと用意しようと思って頑張って収集すると、すぐ数十メガ、数百メガとかいくわけですけど、数百メガぐらい、ギガとかいかなくても数百メガぐらいいって。そいつをポンと作って、じゃあちょっと自由にやり取りできるようにしようっていうサービス作るだけで、平気で1人のユーザーあたり、そんなにアクティブじゃなくても1000円ぐらいかかってくるみたいな感じの金額感で。
ユーザー毎のカスタマイズとコスト増加
これをユーザーごとにもっとそれぞれの過去のブログをみんな好きにアップして学習させて出力させるようにしようみたいなサービスを提供するとか、いろんなアイディアがあるじゃないですか。過去のミーティングの議事録から、そこから参照してとかって、そういうのを1個作るごとに1000円、1000円、1000円みたいな、やり取りするごとにまたかかっていくみたいな、そんな感覚。
原価とサービス価格のジレンマ
あくまで1000円っていうのは、やり取りも多少はしたぐらいの規模感ではあるんですけど、ただここでこの金額感としてわかりやすいのは、ちょっとした1個のそういうやり取りができるものを作った段階で、原価で1000円かかるっていうことなんですよ。いや、これは高いでしょう。さすがに原価ですから。さらにこれが、今アシスタントを使うっていう話をしてるので、アシスタントを使わずに普通のやり取りっていうか、普通にAPI呼んでやるという使い方をしたらどれぐらいになるかなと思って計算してみると、例えば4、5万字とか7万字とか8万字ぐらいとか今送れますから、それぐらい送っちゃうと。1回のやり取りで、なんと400円とか500円とかっていう世界が見えてくるわけですよ。出力させる量にもよるので、2、300円とかで済んだりします。でも1回のやり取りですからね。1回送って帰ってきたら数百円ってやばいじゃないですか、原価として。何回、これ俺計算間違ってるのかなと思って計算し直すみたいな、何回したことかっていう感じなんですけど、間違ってなさそうということで。
サービス価格設定の難しさ
まあ、悩ましいですね。これを使ってサービスを作ろうと思うと、原価で1ユーザーあたり数千円っていうことの可能性を考えたら、安全っていうか、赤字にならないスレスレとかで4、5千円ぐらいになってくる。1000円がそんなにアクティブじゃないかもしれないとか、いろんな可能性があるんですけど、ただ最初いくらぐらいの設定にしますかっていうと、少なくとも1000円、2000円じゃ無理になってくるわけですよ。という感じの計算を文字通り電卓を叩きながら、電卓って手計算とかもしながら、ただの足し算掛け算を何度もしてるわけですけど。
マインドセットの変更とサービス提供の方向性
いやあ、高い。だからもうちょっとマインド変えていかないといけないよなという感じはしますよね。やっぱりせっかくサービスを作るのであれば、特に2Cのサービスであれば、たくさんの人に使ってほしくて、たくさんの人が思う存分そこで楽しんでほしいみたいに思うわけですけど、たくさん思う存分楽しむ方ですね。とか思う存分楽しむと、いや、APIの原価も段階で6,000円、7,000円いっちゃうんですけどみたいな感じ。思っていたらもう本当のヘビーユーザーとかになると、すぐに数万円とかいくと思うんですよ。
サービス設計の課題
っていうサービス設計になってしまう。それはうまく作ったとしても、APIをベースにやっていたらどうやってもそうなる。かといって、じゃあデータベース作って、そこでうまくやり取りしたらどうかっていうと、結局そのAPIの中にあるファンクションコーリング使うのもそれなりに価格高いんですよね、あいつ。っていうので、だから構造的に安くできないみたいなのを本当にどういうふうにするかなっていうのを悩んでますね。悩んでるって悩んでもしょうがないんですけど、だからこれは一つ考え方を本当に変えないといけないかもなと思っているのが過渡期なのかな。
AIを活用した学習サービスの価値とコスト
だから、このAIを使って例えば学習しようという学習サービスで学習しよう。AIをふんだんに使った学習サービスで学習するっていうのは、おそらくこれからすごくいい体験ができるようになっていくと思うんですけど、そのときのその体験の際にも必要な金額っていうのは、どちらかというと今までのアプリとかSaaSとかっていうこの感覚よりは人に教えてもらうみたいな。とか、人に何かしてもらうというこっち側のようなイメージのほうが近いんじゃないかなと思うんですよね。それこそ学習サービスとかでいうと動画見放題2,000円とか1,000円とか3,000円、4,000円とかみたいなこういう世界が結構今ある中で、無料とかもある中でAIに教えてもらうというこの体験っていうのは、人より人間が教える場合、例えば塾とか予備校とかで授業を受け放題。3万円。それで授業してっていうので言うと3万円安くて3万円から10万円とかのレンジぐらいが結構あると思うんですけど、これで言うと3万円とか4万円ぐらい。3万円、4万円ぐらいあるとちゃんと学習に使えるぐらいの感じがあると思うんですよね。そうなると今までの本当に1,000円、2,000円で見放題みたいな感じにはならないという。ここがそういう理解がされる感じになるのか、いやだったら人からでいいんじゃないのかっていう方に行くのか。
コスト削減とサービス品質のトレードオフ
でも良くないかもなって思うのは、これが高いからじゃあ安い作り方をしようとして、安い作り方をしようと思ったら結局文字量によるのでトークン数ですから、元になるコンテンツとか元になる条件みたいなものとかを圧縮するというか省略。圧縮で省略ですよね。省略すればいいわけですよね。でも省略、そこを省略するっていうことは返答の質が下がるっていうことなので、これダイレクトにそういう意味に繋がるので、そうなるとそれでいいのかっていう感じはあると思いますね。なので結局そうなると、そういう安いAIを使ったサービスが一番体験として良くなくて、それよりは動画を見るほうが良くてっていうこの感じになると思います。動画との立ち位置が。
AIサービスの価値とコストのバランス
これが今言ったような2万円、3万円、4万円とかぐらいのレンジでAIからどんどん教えてもらえるような環境、個別家庭教師集団みたいな、何でも教えてくれますみたいな、そういう感覚になったときの3万、4万、5万とかそれぐらいまでいけばかなり、5万とかいくとかなり使いやすいと思うんですけど、そこまでのそのAIの力をふんだんに使った状態っていうのは、動画とか安いAIサービス、AI学習とかと比べるとはるかに良いみたいな感じにはなると思うんですね。この金額感を今僕はまだなんとなく受け入れられていないので、社会人とかだったらまだ良いんですけど、まだ良いっていうか会社がやるとかだったらまだ会社がそこから生産性上げてとかって話になるので、社会人の個人よりは会社の中でっていうことなんですけど、まだそれでもって感じはしますけど、まだこれから個人、特にその個人の中でも中学生、高校生とかになってくると、これどういうふうにしていくのがいいのかなというのはかなり悩ましいなという感じがしますよね。
コストの現実とサービス設計への影響
まあでも本当に変数ではなく定数の部分である、減価がここまで高いところまで来ちゃってるっていうのは、これは事実ですから、これを変えられないというところで悩んでもしょうがないよなというのも一つあると思うんですよね。ということで、今そこら辺をどういうふうに解釈するかっていうことがサービスの設計に結構ダイレクトに影響するところなので、これはむずいという感じがしてますね。