AI占いは、モデルとエフォートで変わるのか

著者・あらいちゅー(田中)あらいちゅー(田中), 馬主で大家で占い師あらいちゅー(田中) @araichuu Twitter

同じホロスコープを描いた3冊のノートを机に並べて見比べているイメージイラスト

AIに占いをさせるとき、モデルを変えると鑑定は変わるのか。エフォートを上げると、鑑定は正確になるのか。

当サイトでは、同じ占いプロンプトと同じ入力データを使い、3通りの設定で2027年の運勢を鑑定させました。Claude Opus 5.5のエフォート「中」、Claude Fable 5.2のエフォート「中」、Claude Fable 5.2のエフォート「高」です。エフォートとは、AIが答えを出すまでにかける手間の設定で、「中」より「高」のほうが手間をかけます。

鑑定した相手は、1981年11月2日生まれという設定のダミーの人物です。実在する方の鑑定ではありません。

結果は次の3つでした。

  • モデルを変えると、データのどこを拾うかが変わりました。正確さの差は、軽い誤り1件だけでした。
  • エフォートを上げると、拾うデータが増え、時間が1.6倍、料金の目安が約1.25倍になりました。結論は同じでした。
  • どの設定でも、星の配置や月の判定を取り違える重い誤りは0件でした。

比べた条件

使ったのは、2027年の運勢を西洋占星術・インド占星術・四柱推命の3つの占術から読むプロンプトです。鑑定文は、一年の全体、仕事とお金、恋愛、月ごとの運勢、まとめの5章でできています。12か月のなかから「追い風の月」を最大3つと「ゆっくりでいい月」を選び、全体、仕事とお金、恋愛の3つに10点満点の点数を付けます。

プロンプト、入力データ、プロンプトが最初に尋ねる質問への答えは、3通りとも同じにしました。当サイトが変えたのはモデルとエフォートです。あとで調べたところ、鑑定を走らせた作業環境でAIが受ける文体の指示が、モデルで違っていました。そのため、この記事では文章の書き方を比べていません。

鑑定文には、本文のほかに、星の動きと暦を書き出した「星と暦のメモ」が付きます。本文とこのメモに書かれた星の位置と時期を、元の入力データとプログラムで1件ずつ照合しました。誤りは重さで3段階に分けています。「重い誤り」は、月の判定や星の配置そのものが違うもの。「中くらいの誤り」は、時期や分野がずれるもの。「軽い誤り」は、期間の言い方の粗さのように、月の判定には影響しないものです。上旬・中旬・下旬の区切り方の違いは3通りすべてにありましたが、月の判定に影響しない日本語の言い方の違いなので、占いの誤りとは分け、この記事の誤りの数には入れていません。

3通りの結果の一覧

項目Opus 5.5「中」Fable 5.2「中」Fable 5.2「高」
かかった時間486秒476秒767秒
料金の目安3.08ドル4.31ドル5.37ドル
データの参照回数9回22回40回
鑑定文の本文3,893字4,345字4,319字
重い誤り・中くらいの誤り0件0件0件
軽い誤り0件1件0件
材料の拾い漏れ1件2件0件
追い風の月1月・7月・9月7月・8月・9月7月・8月・9月
ゆっくりでいい月2月・5月・12月2月・5月・12月2月・5月・12月
点数(全体/仕事とお金/恋愛)5/5/66/5/76/5/7

料金の目安は、鑑定1回分をAPIの公開価格で換算した額で、チャットアプリの定額プランで払う額ではありません。計算の内訳は「APIの料金に直した比較」の節に載せます。データの参照回数は、AIが鑑定の途中で、入力データのファイルを読みに行った回数です。当サイトのAI+JSON占いツールを使った回数ではありません。軽い誤りは、本文と星と暦のメモを合わせた件数です。材料の拾い漏れは、プロンプトが使うよう指示した材料のうち、鑑定に使わなかったものの数です。

3通りとも同じだったこと

重い誤りと中くらいの誤りは、3通りとも0件でした。インド占星術の運勢の期間、四柱推命の10年ごとの運と年・月の運、星が星座を移る時期は、どの鑑定文も元データと合っています。

軽い誤りは、Opus 5.5の「中」とFable 5.2の「高」が0件、Fable 5.2の「中」が1件でした。その1件は期間の言い方の粗さです。星と暦のメモで、木星が第2ハウスにいる期間を「7月〜10月」と書いていました。元データでは6月22日からで、1月も第2ハウスにいます。

結論もそろいました。「ゆっくりでいい月」は3通りとも2月・5月・12月。まとめの章で「覚えておく月」として挙げた月は、3通りとも9月です。3つの占術の重ね方を、プロンプトが手順として決めているためと見ています。

いちばん大きく扱った材料も、3通りで同じでした。土星が、世間での立場を表す位置に、春と年末の二度重なる配置です。

本文の細かい所まで重なった例もあります。5月の見出しに付けた絵文字は3通りともこいのぼりで、恋愛の章に出てくる身近な場面は3通りとも「夕食のあと」でした。

モデルを変えると変わったこと

エフォートを同じ「中」にそろえて、Opus 5.5とFable 5.2を比べます。

拾った材料

プロンプトは、新月と満月を材料に使うよう指示しています。Opus 5.5は、該当する4件のうち2件を使いました。Fable 5.2は1件も使っていません。日ごとのデータがファイルに入っていたのに、10日おきの値までしか読まなかったためです。

逆に、インド占星術で星座ごとに点数を付ける表は、Fable 5.2だけが使いました。年末にかかる星の組み合わせの1件は、Opus 5.5が書き落とし、Fable 5.2も対象に入るか分からないとして外しています。拾い漏れはOpus 5.5が1件、Fable 5.2が2件です。

追い風の月と点数

追い風の月は、Opus 5.5が1月・7月・9月、Fable 5.2が7月・8月・9月を選びました。候補は1月・7月・8月・9月・11月の5つあり、3つまでに絞る判断はAIに任せています。どちらの選び方も、プロンプトの決まりの内です。

元データの数字で比べると、材料は8月のほうが強く出ています。8月は、木星が生まれたときの火星の位置にほぼ重なります(ずれ0.08度)。1月は、木星と金星の良い角度が年の初めから離れていく時期でした。Opus 5.5は、1月には逆向きの材料もあること、11月も候補だったことを自己点検のメモに書いています。どの月を捨てたかを、あとから追えます。

点数は、全体がOpus 5.5の5点に対してFable 5.2は6点、恋愛が6点に対して7点で、仕事とお金はどちらも5点でした。良い材料と重い材料のどちらを重く見たかの差で、根拠の書き方はどちらも筋が通っています。

決まりの守り方と手間

体裁の決まりは、Opus 5.5のほうが丁寧に守りました。見出しのあいだの空行と区切り線の数は、Opus 5.5が指示どおりで、Fable 5.2は外しています。ただし、月ごとの本文に決めた字数の下限は、Opus 5.5が6か月で下回り、Fable 5.2は2か月でした。

時間はOpus 5.5が486秒、Fable 5.2が476秒で、ほぼ同じです。Opus 5.5はデータの参照回数が9回と少なく、一度に大きく読んでいます。料金の目安は、Opus 5.5が3.08ドル、Fable 5.2が4.31ドルで、Opus 5.5のほうが安くなりました。

エフォートを上げると変わったこと

モデルをFable 5.2にそろえて、エフォート「中」と「高」を比べます。

結論は一致した

追い風の月は7月・8月・9月、ゆっくりでいい月は2月・5月・12月、点数は6点・5点・7点、覚えておく月は9月。エフォートを上げても、一つも変わりませんでした。

増えたのは使った材料

「高」は、「中」が使わなかった新月と満月を4件すべて使い、拾い漏れは2件から0件に減りました。本文にも「満月のころ」という言い方が4回出てきます。

誤りの件数の差は1件

軽い誤りは、「中」が1件、「高」が0件です。重い誤りと中くらいの誤りは、どちらも0件でした。差は1件で、「高」をもう一度走らせた鑑定では軽い誤りが1件出ています。エフォートを上げると誤りが減るとは、この結果からは言えません。もう一度走らせた結果は、あとの節に載せます。

手間は時間と料金に出た

データの参照回数は22回から40回へ1.8倍に、時間は476秒から767秒へ1.6倍に増えました。約8分だった鑑定に、約13分かかっています。増えた回数は、動きの速い星と月の位置を細かく読むために使われていました。料金の目安も、4.31ドルから5.37ドルへ約1.25倍に増えています。

お金の読みの向き

仕事とお金の点数は3通りとも5点でしたが、本文に書いたお金の向きは分かれました。8月を、Opus 5.5は出費が増える月、Fable 5.2の「中」はお金が入ってくる月、「高」は家計の話に弾みがつく月と書いています。年の全体でも、Opus 5.5は出ていく流れが目立つ年、「中」は8月と9月にお金が入りやすい年、「高」は入る流れも出る流れも大きい年としました。同じ5点でも、Opus 5.5とFable 5.2の「中」では向きが逆です。

APIの料金に直した比較

次の表は、鑑定1回でAIが読み書きしたトークンの数と、それをAPIの公開価格で換算した料金です。トークンは、AIが読み書きした文章の量を数える単位です。

設定入力(キャッシュへの書き込み)キャッシュからの読み込み出力料金の目安
Opus 5.5「中」387,665616,26551,1273.08ドル
Fable 5.2「中」235,388242,07147,7704.31ドル
Fable 5.2「高」211,458358,68879,5515.37ドル

単価は100万トークンあたり、Opus 5.5が入力4ドル・出力20ドル、Fable 5.2が入力8ドル・出力40ドルです。キャッシュは、一度読んだ文章を保存しておき、読み直すときの単価を下げる仕組みです。読み込みの単価はどちらのモデルも0.20ドル、書き込みの単価は入力の1.25倍(Opus 5.5が5ドル、Fable 5.2が10ドル)として計算しました。キャッシュを使わない入力はどの設定も20トークン未満で、料金にすると0.01ドルに届きません。

料金で見ると、いちばん安いのはOpus 5.5の「中」です。Fable 5.2の「高」は、同じFable 5.2の「中」の約1.25倍、Opus 5.5の「中」の約1.7倍でした。

Opus 5.5は入力が38.8万トークンで、Fable 5.2の「中」の23.5万より多く読みました。入力と出力の単価がFable 5.2の半分なので、料金は最も安くなっています。Fable 5.2の「中」と「高」で増えたのは主に出力で、4.8万トークンから8.0万トークンになりました。

この料金は、APIを直接使った場合の換算です。チャットアプリを定額プランで使う方が払う額ではありません。今回の鑑定は、AIが自分でファイルを読みに行く作業環境で走らせました。その環境がAIに渡す文章の分も入っているので、チャットにJSONを貼って鑑定する使い方とは額が変わります。

この記事に以前載せていたトークンの数(21.9万、14.2万、13.8万)は、鑑定が終わった時点の会話の大きさを数えたものでした。料金の計算には、鑑定の途中で読み書きした量の合計を使っています。

AI自身の自己点検に出た差

検証のために、書いた鑑定文の誤りをAI自身に申告させました。申告の正確さにも差が出ています。

Fable 5.2の「中」は、誤りではない2件を誤りと申告しました。期間の言い方が粗かった軽い誤りの1件は、申告していません。「高」は、星と暦のメモのなかで時期の書き方が食い違っていた1か所を自分で見つけ、迷った判断を3通りのなかで最も細かく書き残しています。

Opus 5.5は6件を申告しました。この記事で誤りに数えたものは含まれず、根拠のずれが1件、時期の言い方が1件、残りは表現の弱さでした。

使う目的別の選び方

使う目的合う設定理由気をつける点
料金を抑えたいOpus 5.5「中」料金の目安は3.08ドルで、3通りのうち最も安い。体裁の決まりを丁寧に守る月ごとの本文は短め
プロンプトが指示した材料を、漏れなく使ってほしいFable 5.2「高」拾い漏れが0件。新月と満月を4件すべて使った時間は「中」の1.6倍。料金の目安は5.37ドルで、「中」の約1.25倍
どの月が良いかだけ知りたいFable 5.2なら「中」で足りる「中」と「高」で、月も点数も一致した。「中」は476秒で終わる「中」は新月と満月の材料を使わなかった。料金の目安は4.31ドルで、Opus 5.5「中」の約1.4倍

今回の結果では、エフォートを上げて増えたのは材料の数、時間、料金の目安で、結論は変わりませんでした。モデルの違いは、正確さではなく、拾う材料に出ています。同じ5点でも、お金の読みの向きは設定で分かれました。

どの設定でも、月の単位の判定は元データと合っていました。月のなかの細かい時期は、目安として読んでください。

同じ設定でもう一度走らせた結果

同じ結果がもう一度出るかの手がかりとして、Opus 5.5の「中」とFable 5.2の「高」をもう一度走らせました。Fable 5.2の「中」は走らせ直していません。2回目のプロンプトには、時期の書き方の決まりを一文足してあります。

項目Opus 5.5「中」1回目Opus 5.5「中」2回目Fable 5.2「高」1回目Fable 5.2「高」2回目
かかった時間486秒450秒767秒807秒
料金の目安3.08ドル2.89ドル5.37ドル5.75ドル
データの参照回数9回8回40回42回
重い誤り・中くらいの誤り0件0件0件0件
軽い誤り0件3件0件1件
追い風の月1月・7月・9月1月・7月・9月7月・8月・9月7月・9月
ゆっくりでいい月2月・5月・12月4月・5月・12月2月・5月・12月2月・5月・12月
覚えておく月9月9月9月7月
点数(全体/仕事とお金/恋愛)5/5/65/5/66/5/76/5/7

点数は2通りとも変わりませんでした。月の選び方は一部が変わっています。Opus 5.5は、ゆっくりでいい月の2月を4月に替えました。Fable 5.2の「高」は、追い風の月から8月を外して7月と9月の2つにし、覚えておく月を9月から7月に替えています。4月を選ぶことも、追い風の月を2つにすることも、プロンプトの決まりの内です。

軽い誤りは、Opus 5.5が3件、Fable 5.2の「高」が1件でした。Opus 5.5の2件は、星と暦のメモで、土星と金星の良い角度がいちばん近づく月を「8月」と書いたものです。元データでは7月と9月がいちばん近く、8月はそのあいだで最も離れる時期です。本文は7月と9月を挙げていて、月の判定には影響していません。Opus 5.5の残りの1件とFable 5.2の「高」の1件は、期間の言い方の粗さでした。

時間と料金の目安は、2通りとも1回目との差が1割以内に収まりました。

同じモデルと同じエフォートでも、軽い誤りは0件から3件まで動き、選ぶ月も入れ替わっています。最初の3通りで付いた軽い誤りの差は1件なので、この差からモデルやエフォートの優劣は決められません。

この比較で分かっていないこと

  • 比べたのはダミーの人物1人分で、鑑定は各設定1回ずつです。もう一度走らせたのも2通りを1回ずつで、何度も走らせたときに結果がどこまで動くかは未確認です。
  • 比べたのは、元データとの一致と、プロンプトの指示の守り方です。占いとして当たるかどうかは比べていません。
  • 文章の書き方は比べていません。鑑定を走らせた作業環境でAIが日本語の文体の指示を受けていて、その受け方がモデルで違ったためです。文体の比較は、指示をそろえて取り直したら載せます。
  • 料金の目安は、鑑定を走らせた作業環境での値です。チャットにJSONを貼る使い方での料金は測っていません。
  • 2回目の鑑定は、時期の書き方の決まりを一文足したプロンプトで走らせました。月の選び方と軽い誤りの件数が変わった理由が、走らせるたびの揺れにあるのか、足した一文にあるのかは未確認です。

今回使ったプロンプトは、公開の準備中です。公開したら当サイトでお知らせします。