AI活用・ツール開発

支援の現場で使う道具を、
自分で作っています。

プログラマではありません。中小企業診断士が、生成AIを相棒にして、自分の仕事で本当に使う道具を作っています。外注していません。仕様書もありません。「なんか気に入らない」から始まって、動くところまで持っていきます。

セミナーでお話ししているのは、この作り方そのものです。すごいのは魔法でしょうか、それとも魔法使いでしょうか。以下は、実際のログから引いた記録です。

作っているもの

AIが行き詰まったとき、人が言ったこと

「じゃあ、いいや(笑)」

暗号化の実装が、コード0行で解決した

顧問先の会社名をデータベースに暗号化して保存できないか、とAIに相談しました。「管理人にも読めません」と書けたら親切だと思ったからです。AIは実装せず、こう答えました。

正直に申し上げます。「管理者も本当に読めない」はこの構成では実現できません。サーバーが画面にHTMLを返す以上、サーバーは必ず復号できるからです。

その上で、代償つきの選択肢を並べてきました。完全にやるなら、パスワードを忘れた瞬間にデータが永久に失われる。こちらの返事はこれです。

じゃあ、いいや(笑) 本当に顧客情報を守りたい場合には、ユーザーはもともと仮名で社名登録すればいいんだもね。

要件そのものを取り下げ、「秘匿したい方は架空の会社名で登録してください」と正直に案内する設計へ。AIは「これが一番確実で、しかもコストゼロです」と応じました。実装は1行も増えていません。

「半年後に見たらすっかり忘れてるはずだから」

機能がひとつ、作られる前に消えた

財務分析ツールに、AIが書いた所見メモを残す機能を設計していました。AIの案は「確度注意」バッジを付け、人が中身を確認したらバッジを消す、という標準的なものです。よくできた設計に見えました。

確度注意バッジは、人が見ても消さない方がいいかな。半年後に見たらすっかり忘れてるはずだから

コンサルティングの実務では、同じ資料を半年後にまた開きます。そのとき「確認済み」の印を見た自分は安心してしまいますが、何をどう確認したのかはもう覚えていません。読み手は半年後の自分という別人だという一点で、データベースの項目2つと確認ボタンが、実装される前に消えました。

「やることリスト」ではなく「やったことリスト」

AIが自分で「これが最大の未決です」と白状した

ツールのトップ画面を作り直していたとき、AIはデータベースを丹念に調べ上げ、画面設計まで仕上げてきました。仕事としては文句のつけようがありません。ただ、最後にこう言いました。

第1層に出す「やること」を、あなたの実務のどれにするか。これが最大の未決です。あなたが月曜の朝にこの画面を開いて次に何をするかが分かれば、そこに合わせて中身を差し替えたい。……推測です。

「やること」を書くには、何をすべきかという規範が要ります。それは人によって違うので、AIには原理的に埋められない穴でした。

やることリストではなくてやったことリストにすれば、作りやすく、意味のある進捗確認になるのではないか

枠を裏返しただけです。6分後には、3,358件の生の記録が26行の作業日誌に束ねられて動いていました。AIが決められなかったのは能力ではなく、目的を持っていないことのほうでした。

それでも、もっともらしく間違える

「違うじゃろ」の記録

高性能なモデルに長く考えさせても、現場固有の事情を知らなければ、AIは自信を持って間違えます。任せきりにできない理由のほうも、記録しています。

「いや、まだAIは早い」

AIセミナーの資料を作っている最中に、AIが先走った

セミナーの1枚目を、人類が初めて火を使った場面から始めようと考えました。「絵、浮かぶ?」と相談したところ、AIは気を利かせて、火とAIをその場で結びつけた構図を出してきました。セミナー全体がAIの話だと知っていたからです。

いやまだAIは早い。左半分は初めて火を興した数人の座って火を囲む旧人、右半分は左からクロスフェードで50万年後の松明を持って歩く旧人

左は洞窟で初めて火を囲む人々、右は夜明けの平原を松明を持って歩く人々。中央で煙がクロスフェードしている一枚絵
やり直したあとの完成版。セミナーで実際に使っている1枚目です

火の場面は、AIの説明ではありません。人が新しい力を手にしたときに何が起きたか——学ぶ者、恐れる者、禁忌だと感じる者——を先に見てもらうための時間です。全体のテーマを知っていることは、その一枚の役割を知っていることではありませんでした。AIは最短距離を行きたがります。話の順番を決めるのは、人の側の仕事です。

「次へ行こうか」が、全部進めてよい意味になった

危険なところを、危険なまま先へ進もうとした

財務ツールに年次計画を取り込む作業の途中でした。こちらの一言をAIは「先へ進んでよい」と解釈し、一気に実装まで走りました。止めて中身を検めると、単位、計画値の反復、科目名の解釈、未配賦の扱いに、実務では致命的になる問題が並んでいました。

指標の単位と小数桁を確認している画面。一人当たり売上高が千円単位で桁がずれている
単位と小数桁を一行ずつ確かめている画面。数値はサンプルです

こんなに危険な個所を危険なまま勝手に進めてしまうなんて、SolともあろうAIが残念である。

財務の数字は、間違ったまま動いてしまうところが怖いところです。エラーは出ません。正しいかどうかを判断できるのは、その数字の意味を知っている人間だけです。

AIは、大量のデータから寄せ集めた「だいたい正しい答え」を出すのが得意です。困るのは、それが70点で止まっていても、本人は100点のつもりで出してくることです。70点の答えは、素人目には完成品に見えます。だからこそ、最後の判断だけは下駄を預けないようにしています。

結局、どう分担しているか

AIがしていること
調べる、書く、作る。データベースを隅々まで確認する、設計案を出す、画面を組む、動くところまで持っていく。速さと根気は、人が敵う相手ではありません。できないことを「できません」と言う正直さも、持っています。
人がしていること
目的を決める、違和感に気づく、要らないと判断する。半年後に誰がどう読むかを想像する。そして、やらない、という結論を出す。ここを空けたままAIに任せると、もっともらしいものが出来上がって、誰も使いません。

この分担の話を、実際の画面と会話をお見せしながらするのが、AI活用セミナーです。
セミナー・研修について詳しく

お問い合わせ

まずは、気軽に話しかけてください。

いただいた内容は、ご返信のためだけに使用します。
原則3営業日以内にご返信します。

西達郎中小企業診断士事務所 TN Network
神奈川県横須賀市
活動地域:神奈川県を中心に全国