AIを業務に入れる前に、AIに任せない場所を決める
AIを業務に入れるとき、私は、AIを入れる場所より先に、AIに任せない場所を決めるべきだと考えています。たとえば毎月の仕訳(取引を帳簿の勘定科目に振り分ける作業)です。同じ取引なのに、月によって振り分け先が変わってしまうかもしれない。AIにはその危うさがあります。私が作った中小企業向けAIツールのAi助もハイブリッド型で、財務分析や仕訳はAIに任せず、システムで処理しています(Ai助の機能は中小企業専用AI Ai助とAI事業で紹介しています)。この記事では、AIを使う場所と使わない場所の線の引き方を、決める順番まで含めてお話しします。
毎回同じ答えが要る処理はAIに任せない
従来のプログラムは、同じ数字を入れれば何度やっても同じ答えを返します。決定論的、つまり入力が決まれば出力も一つに決まる動き方です。AIには、同じ入力に同じ答えを返す保証がありません。作った本人ですら、次に何が返ってくるか予測しきれないんです。
もし、帳簿の数字を一覧にした途中集計表である試算表を入れて、昨日と今日で自己資本比率(総資産のうち返済不要な自己資本が占める割合)が違って出てきたら。経営判断の材料にはなりませんよね。
何でもかんでもAIを入れればいいという風潮が、しばらく続きました。Ai助の仕組みを作っていたときから、私はそこに引っかかっていました。信頼性が要るところは普通のコードで動かしたほうが確実で、しかも安く済みます。
入口は柔らかく、出口は固く
この考えを後押ししてくれたのが、シリコンバレー在住で使い心地を設計するUXデザイナー、Rioさんの解説動画でした。クウキデザインとして発信していて、テーマはAIを製品に組み込むときのコツです。
Rioさんによると、AIの得意分野は話し言葉から相手の意図をくみ取ること。画面の操作を覚えられない人でも、話しかけるだけでコンピューターを動かせます。
良いAI製品の多くは、何をしたいのかを解釈する窓口だけをAIが担っているそうです。言葉の解釈はAI、計算や処理は固定のプログラム、という分担です。AIの便利さと結果の安定を、いいとこ取りできる組み合わせなんですね。Ai助で目指した形も、ほぼこれでした。
画面をなくせば便利になるのか
単純な指示なら便利になります。ただ、細かい調整や確認が要る業務では、むしろ危うくなると考えています。
画面を持たず音声だけで操作する方式をヘッドレスと呼び、Amazonの音声アシスタントであるAlexaが代表例です。Rioさんによると、音声を文字に変えるASRという技術の精度は通常80〜90%ほど。10回に1〜2回は聞き間違える計算です。業務では99.5%以上、医療では100%近くが求められる場面もあるそうです。
怖いのは、AIが何を聞き取ったのか確かめる手段がないことでしょう。聞き違えたまま処理が進んでしまう。業務で使うなら、少なくとも聞き取った内容を画面で確認できる形にしておくべきだと思います。
待ち時間とコストは誰が払うのか
最終的には、使う人が払っています。
AIは裏で膨大な計算をしているので、使われるほど運用コストが積み上がります。手元の端末で動かすローカルAIならサーバー代はかかりませんが、電池の減りや動作の遅さとして、ユーザーの体験に跳ね返ってきます。
動画では待ち時間の目安も紹介されていました。毎日何度も使うものなら2秒、画像生成のような重い処理でも10秒を超えると厳しい。失敗例として挙がっていたのは、話しかけて操作する小型AI端末のrabbit R1です。応答に10〜15秒かかり、画面もない。不安定さと遅さが重なった例でした。
Rioさんご自身のAmazon時代の話も印象に残っています。NASAの無人月周回ミッションであるArtemis 1にAlexaを載せる際、地球のサーバーを経由すると往復で1分以上かかって使い物にならず、端末の中だけで動くよう作り直したそうです。遅延ひとつが、製品の作りを根っこから決めてしまったわけです。

AIを使う場所はどんな順番で決めればいいのか
AIで何ができるかから考えるのはやめて、今のやり方で困っていることから逆算するのが近道です。
がっかりするAI製品が多いのは、この順番が逆さまだからだと思います。AIを入れたと言えば話題になるので、目的がないまま押し込んでしまう。コードで十分な部分までAIにやらせると、不安定さや遅さばかりが目立ち、前より不便になることすらあります。
まず、既存の仕組みでは何ができないのか、何が面倒なのかを書き出す。そこにAIを入れて本当に楽になるかを考え、楽になりそうなら、待ち時間や不安定さを別の仕組みでどう補うかまで設計します。ここだけはAIが一番いいと言い切れた場所にだけ、絞って使う。
あえてAIを使わない判断も、立派な設計判断です。何でもAIに任せた結果、属人化(特定の人しか分からない状態)して誰も直せなくなる懸念はAIエージェントはExcel職人問題の再来になるでも書きました。Ai助で財務分析と仕訳をAIから外したのも、同じ数字には毎回同じ結果を返したかったからです。外したおかげで、数字の部分は安心して判断材料に使えるようになりました。

紙に二つの欄を書き出す
片方には、毎回同じ結果でなければ困る作業を書きます。仕訳、請求金額の計算、在庫の数字などです。もう片方には、お客さまの問い合わせを読み解くような、人によって言い方が変わるやりとりを書く。前者はシステムで固めて、AIを試すなら後者から。試し方のコツはAIを仕事道具にできるかどうかは、最初の20分で決まるにまとめています。
AIを入れる場所より先に、任せない場所を決める。毎回同じ結果が要る処理はシステムで固め、言葉の解釈だけをAIに任せる。そして困りごとから逆算して、ここだけはAIと言い切れる場所に絞る。線が一本引けるだけで、AIをどこで頼ればいいかがずいぶん見えてくるはずです。
この記事を書いた講師
渋谷 雄大
- 販売促進・販路開拓
- マーケティング戦略
- AI活用・DX戦略
- 創業支援
登壇実績206件・直近1年29件
この記事に関連したセミナー・研修・講師派遣をご検討でしたら、お気軽にご相談ください。初めての方も歓迎です。