AI業務自動化はどこまで任せる？人に残す作業の決め方

毎月の手作業に AI を使えないかと考えたとき、引っかかるのは「AI は間違えるのに、業務に使って大丈夫なのか」「どこまで任せていいのか」「任せた結果の責任は誰が取るのか」あたりだと思います。この記事では、私が中小企業の業務を自動化するときに使う切り分け方を書いていきます。例に出すのは、サイトに載せている架空のデータで動くサンプルで、まだお客様の業務で動かしたものではありません。読み終わったときに、自分の業務のどの部分を AI に任せ、どの部分を任せないかを、自分で線引きできるようになるのが目標です。

AI は何でもやってくれるが、責任は取れない

AI は、頼めばたいていのことをやってくれます。私はエンジニアで、自分の開発では実装も、コードのレビューも、調べ物も、設計書の下書きも AI がやっています。書類を読む、文章を書く、分類する、要約する、といった事務の作業も同じです。「AI にできるか」で線を引こうとすると、どこまでも広がってしまいます。

ただ、AI は責任を取れません。間違った催促を送ってしまっても、相手に謝りに行くのは人です。私は「できるかどうか」で線を引くのをやめて、責任を取れる側に残すかどうかで任せる範囲を決めています。

人に残すのは、責任を伴う作業

切り分けの軸は2つです。責任を取れるかどうかと、画面の中で終わるかどうかです。この記事では、プログラムと AI をまとめて「機械」と呼びます。2つの違いは、あとの「作る側では」の節で書きます。

責任を伴う作業

取引先に送る、金額を確定する、お金を動かす、契約を結ぶ。これらは機械にやらせることはできても、やらせません。間違えたときに戻せないか、戻すのに相手の手を煩わせるからです。機械がやるのは、その手前の下書きまでです。催促のメールなら、文面を書くところまでは機械がやり、確かめて送るところは人がやります。

画面の外の作業は、この記事の対象外

届いた紙をスキャナに置く、ハンコを押す、現場で寸法を測る。こういった画面の外の作業は、私の仕事では扱わないので、この記事でも対象にしていません。

それ以外は、AI に任せることができる

責任を伴う作業と画面の外の作業を除いた、画面の中で完結する作業は、AI に任せることができます。書類を読んで何の書類か見分ける、台帳と突き合わせる、文面を下書きする、届いた問い合わせを振り分ける、といったものです。今まで「人が目で見て判断していたから自動化できない」と思われていた作業の多くが、ここに入ります。

AI の答えは、確定ではなく下書きとして受け取る

AI に任せるときに1つだけ守っていることがあります。AI の答えを、そのまま確定にしないことです。

AI が読んだ結果も、書いた文面も、出した判定も、すべて下書きです。確定するのは、責任を伴う作業を受け持つ人か、プログラムによる確認です。ここでいうプログラムは、台帳との照合のように、決まった表を引くだけで答えが出る処理のことです。AI のように考えはしないかわりに、同じ入力には毎回同じ答えを返します。私の作るものでは AI がやるのを読み取りと下書きに絞る作りにしていますが、AI にできるのがそこまで、という意味ではなくて、この「確定にしない」を形にしたものです。

確定を人に残すのは、責任の置き場を今と変えないためです。AI を入れても、顧問先や取引先に対して責任を負うのは、今までどおり事務所や会社です。だから送る・確定するところは、そこの人がやる形にしています。仕組みの側の不具合を直すのと、判断に要る材料を揃えるのは、作った私の仕事です。

人が確定するには、人が確かめられる形で出すことが要ります。AI が読んだ日付や金額や宛名には、原本から読み取った文字列をそのまま根拠として付けて、一覧に並べます。根拠が無いと、人は正しいかどうかを確かめられず、AI の判定が事実上そのまま確定してしまいます。

プログラムに確定を任せるのは、間違いの損害が片側に偏るところです。AI は「たぶん」で答える道具で、損害が偏る判定には向きません。書類の回収でいうと、「届いた」と誤れば催促が止まり、顧問先の締切が飛びます。「まだ届いていない」側に誤っても、催促の下書きが1本余計に出るだけで、送る前に人が気づけます。だから、何の書類かを読むのは AI にやらせ、読んだ結果を今月もらう予定の一覧と突き合わせて「まだ無い」を出すのは、表の引き算にしています。読めなかったときや台帳と合わなかったときは、未着の側に倒れる作りです。宛名を別の会社に読み違える誤りは残るので、そのために根拠を一覧に並べて、人が見比べられるようにしています。

作業は任せても、渡さない情報を決めておく

ここまでは「どの作業を任せるか」の話でしたが、「どの情報を渡すか」は別に決めておく必要があります。AI に書類を読ませると、書類の中身は AI の会社に送られるからです。

工程の種類で分けています。書類を読む工程は、書類そのものを見せないと成り立たないので、渡します。文面を書く工程や振り分ける工程は、固有名詞や金額が無くても成り立つことが多く、無くても成り立つ工程では渡しません。たとえば賃貸管理のオーナー向けの報告書を作るサンプルでは、「今月の家賃収入は◯◯円でした」の◯◯を空欄にした文面を AI に書かせ、オーナー名・物件名・部屋番号・金額はプログラムがあとから入れます。AI に見せるのは、文面を書くのに要る部分だけです。

渡す情報については、私が揃えるものと、お客様に決めていただくものを分けています。私が揃えるのは、データがどこを通り、どこに残るかと、守秘義務との関係を考えるための材料です。使う AI は、業務向けの利用規約で学習に使わないと定められている AI の会社のもので、契約も利用料も私を通さず、お客様の名義で直接結んでいただく形にしています。保持の期間や例外も含めて、お渡しする材料に書きます。そのうえで、使うかどうかはお客様に決めていただいています。顧問先への守秘義務を負っているのは事務所で、「安全です」と私が結論を出せる立場にないからです。データの通り道の考え方は、始めたときの記事にも書いています。

作る側では、機械の中をさらにプログラムと AI に分けている

ここからは作る側の話です。頼むときの判断材料として読んでください。

機械に渡した作業を、私は全部 AI にはしません。表で決められるところはプログラムにして、AI は表で決められないときだけ呼びます。

たとえば、こういう表があるとします。

「メロン」が来たら、表を引くだけで「果物」と答えられます。AI は要りません。「まんごー」「マンゴ」のように表と違う書き方で来たものを、表の「マンゴー」に寄せるところが AI の出番です。寄せた先が表に無ければ、答えを作らずに人に回します。業務でいう「表」は、取引先の台帳（この名前は、この会社）や、今月もらう予定の書類の一覧のようなものです。

表を引くだけの処理は、同じ入力には毎回同じ答えを返します。間違えても、同じ入力でもう一度動かせば同じように間違えるので、原因を見つけて直せます。AI の利用料もかかりません。

AI が要るのは、来たものが表と同じ言葉で書かれていないときです。届く書類は写真だったりスキャンだったりして、宛名も「山田商事」「山田商事株式会社」「（株）山田商事」とばらばらです。この「ばらばらなものを読んで、表の言葉に直す」ところを AI がやり、直したあとの判定はプログラムに戻します。AI が「山田商事株式会社」と読んだら、台帳と照合して、台帳にある名前にだけ結びつけます。照合できなければ「未割当」として人に出します。AI に名前を自由に書かせると、同じ会社が3つに増えるからです。

同じ考えで、AI に出させない項目は、AI が返す欄そのものを無くしています。町工場の見積依頼を整理するサンプルでは、図面を AI に見せて図番・品名・材質を読ませていますが、図面から出させるのは図番・品名・材質だけで、寸法や単価は出しません。「表題欄だけを見て」とお願いしても守られる保証がないので、寸法の欄が無い形で返させています。返す欄が無いので、出る余地がありません。それでも値が別の欄に紛れることはありえるので、架空の図面で紛れていないことを検査しています。

この分け方で作ると、AI を呼ぶ回数が減るので利用料が抑えられ、判定の部分は毎回同じ答えが返ります。どの工程で AI を使い、どの工程を表の処理にしているかは説明できる形にしているので、頼むときに聞いてください。AI の利用料は使った分だけ別にお客様に払っていただく形にしていて、その理由は値段の記事に書きました。

自分の業務に当てはめる手順

ここまでの分け方を、自分の業務で試すときの手順です。

1. 毎月の作業を、工程ごとに書き出す。「書類を受け取る」「何の書類か見分ける」「台帳と突き合わせる」「足りないものを催促する」のように、動詞で分けます
2. 責任を伴う工程（送る、確定する、お金を動かす、契約する）に印を付ける。ここは人に残します
3. 残った工程が、AI に任せることができる候補です
4. 候補の工程のうち、文面を書く・振り分けるといった工程で、AI に渡さなくても済む情報（氏名・金額など）があれば印を付ける。作るときに、プログラムが入れる側に回します
5. 2 で印を付けた工程も、その手前の文面や一覧までは機械に作らせて、人は確かめて送る・確定するところだけにできます

ここまで読んで、自分の業務の工程に印を付けられたら、この記事の目的は果たせています。書き出した一覧を持って誰かに相談すると、「AI で何かできませんか」が「この3つの工程を機械に渡したい」になって、話が具体的になります。

一緒に考えたい方は、サイトからご相談ください。