「AIがそう言ったので」は通らない｜経理がAIに任せていいこと・ダメなこと

開催の背景

AIは調べる機械ではなく、もっともらしい続きを確率で選んでいる機械です。この性質を知らないまま経理の仕事に使うと事故が起きる。一方で、怖いという理由だけで避けていると、使えるところまで使えないまま終わります。

実際に多いのは後者のほうでした。プライベートでは気軽に使うのに、仕事で使おうとすると「これを投げていいのか」「会社に怒られるのではないか」で手が止まる。この回は、その止まり方をほどくために開きました。

講師は末廣修平さんです。ソフトバンク、ベンチャーを経て、業務改善やDXを仕事にしてきた方で、現在は独立して中小企業のAI活用支援をされています。Cuelでは何度もAIの回を担当いただいています。

この回でやったこと

冒頭は、答え合わせのないクイズから始まりました。お客さまも入った会議のメモをAIに渡していいか。取引先名や口座情報が載った請求書を読み取らせていいか。仕訳の候補を作らせていいか。振込を実行させていいか。

4つとも即答できないのが普通です、というのがここでの結論でした。実際、振込のような操作もいまのAIは実行できます。パソコン上でできることは、基本的に何でもできると思って大丈夫だ、という説明がありました。

そのうえで前半は、生成AIの得意と不得意を仕組みから確認しています。

	何ができるか / 何に気をつけるか
得意	散らばった情報の整理、形式の変換、候補や選択肢の洗い出し
気をつける	正しさを保証しない（もっともらしい誤り）
気をつける	会社のルールや規程を最初から知っているわけではない
気をつける	最終判断と説明責任を引き受けない

後半は、この性質を踏まえてどう線を引くかです。「経理業務でAIを使っていいか」という問いのままでは答えが出ないので、業務を工程に分けたうえで、工程ごとに3段階のどれにあたるかを判定していく、という進め方が示されました。3段階は、試しやすい／確認して使う／任せない、の3つです。

最後に、判定を手元でできるようにするWebページとプロンプトが参加者に配られました。

扱ったテーマ

• 即答できない4つのケース（会議メモ・請求書・仕訳候補・振込の実行）
• 生成AIが得意なこと（整理・変換・候補出し）
• 保証しない・知らない・責任を取らない、という3つの限界
• 生成AIとメール・クラウドサービスは、仕組みとしてどこまで同じか
• AIに固有の注意点（学習の設定、二次利用、権限、外部連携）
• 「経理業務でAIを使っていいか」では答えが出ない理由
• 業務を工程に分解し、工程ごとに判定するという考え方
• 試しやすい／確認して使う／任せない、の3段階
• 元のファイルを壊さないための決めごと
• 社内ルールと承認が最後に効いてくること
• AIに任せるのは下準備と候補、という結論

つまずきやすかったところ

最初の関門は、4つのケースに即答できなかったこと自体を、失格だと受け取ってしまうところでした。 これは即答できるものではありません。社内のことに精通しているか、自分で経営していてルールを整えている場合を除けば、その場で判断はつかない。難しいということが伝わればいい、という位置づけで置かれたクイズでした。

次が、AIだけを特別に怖がってしまう非対称です。 メールを送るとき、クラウド会計に請求書を上げるとき、私たちは文字やファイルを社外のサーバーへ送っています。生成AIも、大まかな仕組みとしてはこれと同じです。この回でいちばん強く言われたのは、AIだから危ないと考えるのをやめて、「メールやSaaSではどう扱っているんだったか」と並べて考えてほしい、という点でした。実際、授業中のチャットでも「請求書、会計ソフトには渡していますよね」という声が出ています。判断がつかないときに比較対象を置く、という進め方です。

ただし、同じだからと言い切れない部分もありました。 設定をしないと、送った情報が次のモデルの学習に使われることがあります。ここはメールやクラウドサービスにはない、AIに固有の注意点です。学習の設定と、契約の形態（法人か個人か）、管理者の権限まわり。ここを押さえたうえでなら、他のサービスと同じ土俵で判断していい、という順序でした。設定を確かめずに「同じだから大丈夫」とするのは、話の飛ばしすぎになります。

問いの粒度も、つまずきやすいところでした。 「経理業務でAIを使っていいですか」という聞き方では、誰も答えられません。経理業務のなかには業務の種類がいくつもあり、その中がさらに工程に分かれているからです。一気に任せようとすると必ずどこかでNGが出て、そこで「だめだ、使わない」となってしまう。それがいちばんもったいない、という指摘でした。請求書の処理を例にとっても、AIに任せていい工程、人が確認しながら一緒にやる工程、人がやりきる工程に分かれます。分解すれば、社内の承認も取りやすくなります。

任せてはいけない側で、はっきり線が引かれたのが認証情報でした。 IDやパスワードは渡さない。AIのほうから「ログイン情報をもらえればできますが、どうしますか」と聞いてくることもありますが、渡してはいけません。自社だけでなく社外まで巻き込む損害になりうるためです。

そして、実務でいちばん起きやすい失敗は、情報漏れではなく破壊のほうでした。 AIは、何十万行のデータを短時間で処理するプログラムを、こちらが指示しなくても組んで走らせます。それで元のファイルがめちゃくちゃになり、しかも元に戻せないとなると、手で直すのは不可能です。授業では、元ファイルは触らせない、触らせるならコピーを作って原本は残す、まず1件だけ試す、といった決めごとが繰り返し強調されました。

最後に、社内ルールという壁があります。 仕組みとして安全だと説明できても、社内で「使ってはいけない」と決まっていれば、それに従うしかありません。ただ、その場合も「では、メールやSaaSはどう扱っているのか」と並べて示すと、ルールのほうが動くことはある。そういう問いかけ方が現実的だ、という話でした。

質疑で出たこと

加工情報にしないといけない、ということですよね。

チャットからは、ダミーに置き換えて渡せばいいのか、という質問が早い段階で出ていました。答えは、社名・人名・金額を書き換えたダミー情報であれば問題ない、です。公開されている情報と、自分が書いた文章も同じ扱いで、まずはこのあたりから試すのが安全な始め方になります。逆に、社外に出ていない社内情報は、確認してから使う側に入ります。

振込まで実行できるのか、という点にも反応がありました。できます。だからこそ、実行の一歩手前までをAIに手伝わせて、最後のボタンは人が押す、という切り分けになります。

締めくくりは、この形での結論でした。AIに任せるのは下準備と候補まで。責任は人が持つ。最後まで全部AIに任せていいのなら、そもそもその仕事に人が要らなくなってしまう。手前の準備をAIに寄せたぶんの時間を、判断や改善に使えるようになるといい、という話で終わりました。

次回のご案内

9月26日（土）に、実際にClaude Codeを触ってみるオープンセミナー「AIを使える経理になる はじめてのClaude Code」を開催します。見るだけの参加でも大丈夫です。

また10月17日・24日には、末廣さんによる「AIゼミ 基礎編」を全4回で開講します。AIに任せてよい仕事を見分けるところから、経理のAIアシスタントを作るところまで扱います。

CuelLinkでは、経理の実務に必要な知識をLive授業と動画で学べます。無料登録から参加できる回もあります。