推論とは？AIが「答えを出す」瞬間
AIの世界での推論（Inference）とは、学習を終えたモデルが、新しい入力に対して実際に答えを出す処理のことです。ChatGPTに質問を送って回答が返ってくる、写真アプリが顔を認識する——この「本番の実行」がすべて推論です。
学習と推論はAIの2つのフェーズ
AIの活動は大きく「学習」と「推論」に分かれます。学習は大量のデータからパラメータを調整する準備期間で、莫大な計算力と時間がかかります。一方の推論は、調整済みのモデルを使って答えを出す本番で、1回ごとの計算は学習よりずっと軽量です。
料理にたとえると、学習は「何年もかけた修行」、推論は「注文を受けて一皿作ること」です。私たちユーザーが接するのは、常に推論の側になります。
推論にもコストがかかる
1回は軽いといっても、世界中の何億人もの人が毎日AIに質問すれば、推論の計算量は膨大になります。AIサービスの利用料金や無料プランの回数制限は、主にこの推論コストをまかなうためのものです。半導体メーカーの業績がAIブームで注目されるのも、学習・推論の両方に大量の計算チップが必要だからです。
「推論モデル」との関係
最近は「推論モデル（リーズニングモデル）」という言葉もよく見かけます。こちらは、答えを出す前に段階的に考える時間を取る新しいタイプのモデルを指す言葉で、処理としての「推論」とは少し意味合いが違います。文脈によってどちらの意味かを見分けられると、AIニュースの理解がスムーズになります。
最近では「学習より推論が主戦場」と言われることも増えました。推論モデルのように答えを出す段階で多くの計算を使う技術が登場し、推論の質と効率がAIサービスの競争力を左右するようになったためです。「AIのコスト＝学習と推論の計算代」という視点を持つと、料金プランやAI企業のニュースの背景が見えてきます。
ちなみに、推論を高速化する専用チップの開発競争も激しく、「速くて安い推論」はAIインフラ業界の一大テーマになっています。