工程ドリルのオリジナル問題は、どう作っているのか。AIに丸投げしない問題制作の裏側

工程ドリルでは、中小企業診断士2次試験の過去問ではなく、オリジナル問題を使っています。

Step1の設問解釈だけでも40問あります。

そう聞くと、「そのオリジナル問題、本試験の練習として使える品質なの?」と思う人も多いと思います。

しかも工程ドリルは、AIを使って制作しています。

「AIに中小企業診断士2次試験っぽい問題を40問作らせたのでは?」と思われても不思議ではありません。

実際には、もう少し面倒な作り方をしています。

この記事では、工程ドリルのオリジナル問題をAIとどう作っているのか。その制作工程を書いてみます。

いきなり問題を作らせたわけではない

工程ドリルの問題を作るとき、最初にやったのは「問題を作ること」ではありません。

まず、中小企業診断士2次試験の過去問をgemini notebook(旧NotebookLM)に読み込ませました。

そこで、

  • 設問はどのような言い回しで作られているか
  • どのような制約条件が置かれているか
  • 与件文の情報はどのように配置されているか
  • 設問と与件文はどう対応しているか
  • 一次知識はどのように応用させられているか
  • 事例Ⅰらしい問題にはどのような特徴があるか

といったことを分析しました。

つまり、「中小企業診断士2次試験っぽい問題を作って」とAIにお願いしたのではなく、「そもそも過去問は、どのように作られているのか」を先に分析したわけです。

これで「なんとなく診断士試験っぽい問題」を量産するよりは、本試験の特徴を踏まえて問題に変わりました。

最初の問題作成には、AIをかなり使った

その分析結果をもとに、オリジナル問題の初回案をAIを使って作りました。ただし、AIが最初に作った問題を、そのまま教材にしたわけではありません。

実際に工程ドリルとして組み上げていくと、いろいろ問題が出てきました。

たとえば、

  • 設問では聞いていないことが模範解答に入っている
  • 設問の題意と、想定している解答が微妙にずれている
  • Step1で想定した一次知識と、その後の解答プロセスで使う知識が一致していない
  • 与件文に書いた情報が、最終的な答案でうまく使われない
  • 設問の言い回しが説明的すぎる
  • 逆に、何を答えればよいのか曖昧すぎる
  • 文字数に対して、盛り込もうとしている要素が多すぎる

といったことです。

結局、最初にAIが作ったものからは、かなり書き換えています。

AIで作ったというより、AIで叩き台を作り、人間とAIで何度もデバッグしたという方が実態に近いと思います。

「設問だけ」「与件だけ」では作っていない

工程ドリルの問題制作で、特に重視したのがここです。

工程ドリルは、

設問 → 設問解釈 → 与件 → 与件分析 → 骨子 → 完成答案

までを、一つの問題として設計しています。

たとえばStep1の設問解釈では、

  • どのレイヤーの問題か
  • 何を聞かれているのか
  • どのような制約があるのか
  • どの一次知識を想起するのか

を考えます。

でも、ここで想定した内容が、後から出てくる与件文や骨子とつながっていなければ意味がありません。設問で「権限委譲」を考えさせたいのであれば、与件文にはそれを考えるための材料が必要です。その材料をStep2で拾い、Step3で知識と結びつけ、Step4で答案にする。

工程ドリルでは、まずこの一連の解答プロセスを作り、その後でStep1、Step2、Step3、Step4の練習問題として切り出しています。それにより、さらに実践に近い工程別ドリルになったのではないかと自負しています。

40問を、一度横に並べて見直した

問題数が増えてくると、もう一つ問題が出てきました。1問ずつ見ているだけでは、全体の矛盾を見つけにくいのです。

そこで、工程ドリルでは各問題について、Step1からStep4までを1行で確認できる統合DBを作りました。

統合DBの一部。目を凝らせば読めるかも...?

設問、設問解釈、関連知識、与件文、与件分析、骨子、完成答案などを横に並べています。

そして、40問をまとめてレビューしました。

すると、個別に作っているときには気づかなかったズレが結構見つかりました。

  • Step1ではある知識を想定しているのに、Step3では別のロジックを使っている
  • 与件文に情報を書いているのに、答案では使われていない
  • 模範答案としては成立しているけれど、設問からそこまで要求するのは少し無理がある
  • 設問と与件文のつながりが弱い
  • 100字に収めようとすると、想定した要素を無理に詰め込むことになる

そうした問題を一つずつ修正していきました。

でも、ここを飛ばして問題数だけ増やすと、「それっぽいけれど、何か変な問題」が混ざってしまうと思っています。

「本試験っぽさ」と「練習としての良さ」は、少し違う

もちろん、どこまで作り込んでも、オリジナル問題は過去問そのものにはなりません。

本試験で実際に出された問題を知るという意味では、過去問に代わる教材はありません。

一方で、過去問には数に限りがあるという問題もあります。何度も解いていると、設問を見ただけで「あ、この問題ね」と分かるようになります。そのため、初見の問題に対して設問を解釈したり、与件文から必要な情報を探したりする練習としては、少し使いにくくなります。

だからオリジナル問題で解答工程を繰り返し練習し、過去問で総合的に実践する

オリジナル問題の役割は、次の本試験問題を予想することではありません。初めて見る問題に対して、本試験でも使う思考プロセスを繰り返し動かすことです。

そのために、過去問の特徴を分析し、設問から完成答案までを一貫して設計し、40問を横断して矛盾を確認する。「練習に使える問題」になっていることの確認が難しかったです。

最後は、実物で判断してもらう

ここまで制作工程を書いてきましたが、「本当に問題の品質は大丈夫なのか」については、私がいくら説明しても仕方がないと思っています。

最終的には、実際の問題を見てもらうのが一番です。

工程ドリルのStep1「設問解釈」は、40問すべて無料で公開しています。

実際に何問か解いてみて、「これは初見問題で設問解釈を練習するのに使えそうだ」と思えるかどうか。皆様に確認してもらえばと思います。

工程ドリルについては、こちらからご覧いただけます。