
頼んだ通りなのに、欲しかった記事と違う
「専門用語を減らし、読みやすくして」とAIに頼んだら、文章は短くなった。 ところが、残したかった事例や、結論へ至る説明まで消えてしまった。 依頼者は修正版を読んで初めて、「簡単にしたいが、内容を薄くしたいわけではない」と説明できた。 これは共同作業の仕組みを考える想定例であり、特定製品の評価結果ではない。
ここで必要なのは、最初の依頼をさらに長くすることだけではない。 一つの節を直し、残った説明と失われた説明を見て、次の修正を決める方法もある。 対象読者や引用条件のように先に答えられることは確認し、文の難しさや説明の密度は具体的な案を見て選ぶ。
本稿の判断は、答えられる条件には質問を、案がないと決まらない希望には小さな途中成果を使う、というものだ。 AIの最初の出力を完成品として受け取る前に、人が何を判断できる形にするかを考える。 その判断を次の版へ反映し、主張や動作の正しさは根拠とテストで確かめたい。
不足する情報と、まだ決められない希望を分ける
記事の公開先や締切は、担当者が知っていれば質問で確かめられる。 一方、どこまで仕組みを説明すると読み応えが出るかは、比較する文章がないと答えにくい。 両方を「要件が曖昧」とまとめると、分かる条件までAIが推測したり、決められない好みについて質問を重ねたりする。
ClarifyGPTは、生成したコードの振る舞いの違いから要件の曖昧さを調べ、確認質問と回答で要件を更新する。 10人が参加した評価では、MBPP-sanitizedのGPT-4のPass@1が70.96%から80.80%へ上がった。 これは最初のコードがテストを通る割合であり、どんな開発業務でも同じ改善が出るという結果ではない。 質問で期待動作を明らかにできる場合の証拠である。
質問する能力にも限界がある。 QuestBenchは、必要な情報が一つ欠けた問題で、候補から適切な確認質問を選ぶ能力を調べた。 答えを導けるモデルでも、論理や計画の問題では必要な質問を選ぶのが難しかった。 この研究は試作品との比較ではない。 質問だけで依頼を必ず明確にできると仮定しない、という注意として読む。
途中結果を見せると、直す場所を選べる
AI Chainsでは、一連の処理を分け、人が中間結果や処理を編集できる仕組みを調べた。 20人がレビュー文や学習カードを作る研究で、成果の品質と、処理の見通しや制御のしやすさの改善を報告している。 完成文だけを見せる場合と違い、材料の抽出、整理、文章化のどこがずれたかを調べられる。
たとえば、引用の条件を抽出する段階で落とせば、後の文章化だけを上手にしても説明は直らない。 条件の一覧を先に見せれば、書き方を選ぶ前に材料の不足を指摘できる。 この例は本稿の解釈であり、研究がこのサイトの記事編集を測ったわけではない。
PromptChainerは、四人による処理の組み立てを調べ、個々の処理と全体のつながりを直す必要を示した。 大規模な性能比較ではないが、途中成果を置くだけで十分ではないことが分かる。 ある段階を直したら、その入力と後続の結果も見て、修正が全体の目的へつながったかを確かめる。
記事、コード、画像では、判断する対象が違う
記事なら、構成と一つの節が、問いや説明の密度を選ぶ材料になる。 コードなら、期待する入力と出力を示すテストが役立つ。 どちらも完成前の判断材料だが、見た目への好みと、動作を決める条件は同じではない。
TiCoderは、生成したテストへの人の回答で、意図を部分的に形式化する方法を提案する。 15人のプログラマーによる研究では、AIのコードを正しく評価しやすくなり、課題による認知負担も低くなったと報告した。 別の自動評価では理想化した利用者の代替を使っているため、その結果をそのまま実際の担当者の効果にしない。 テストにない条件や、テスト自身の誤りも別に確認する必要がある。
画像生成の研究では、AIが理解した物や関係を編集可能な図として見せ、確認質問を組み合わせた。 人が欲しい構図とAIの理解の違いを、最終画像の前に直せる設計である。 図と質問を組み合わせた研究から、図単体の効果や、あらゆる制作作業の改善を結論することはできない。
共通しているのは、AIが何を前提にしたかを、人が選択できる対象にすることだ。 何でも文章で説明させる必要はない。 記事の論旨なら構成、機能の振る舞いなら入出力、画像なら対象と配置を見せる方が、直したい違いを具体化できる場合がある。
次に質問するか、作るかを決める
本稿では、事実条件が分かっているかと、希望を成果物なしで決められるかを分ける。 次の四分類は研究共通の尺度ではなく、次の行為を選ぶための整理である。 「対話を増やす」だけの方針にせず、未確定の点に合う方法を選ぶ。
条件も希望も決まっている
列順と出力形式が決まった表の変換なら、実行して照合する。案の往復を増やすより、欠落や変換ミスを検査する。
条件が不明で、希望は決められる
実行環境、公開先、使えるデータが不明なら先に確認する。見た目を磨いても、その条件を推測したままでは使える成果にならない。
条件は分かるが、希望は案を見て決まる
読者と引用条件は決まっていても、説明の密度は試した文章で選ぶ。構成と一つの節を示し、残す説明と短くする表現を決める。
条件も希望も未確定である
まず対象と制約を確認し、その範囲で小さな案を作る。案で決まった希望と、まだ確認していない事実を分けて次の作業へ渡す。
質問が正しい答えを求める場合も、試作品が好みを確かめる場合もある。 両者を固定した役割に閉じ込める必要はない。 大切なのは、今の不確かさを、どの情報や成果物で減らせるかを説明できることである。
一つの節を直し、残す理由も渡す
冒頭の記事編集を進める想定例を考える。 依頼者は「一般の読者が対象。一次資料の条件は残す。分量を減らすこと自体は目的にしない」と先に伝える。 AIは、現行の一節と、それを読みやすくした案を並べる。 全文の改稿前に、どんな削り方が適切かを選べる。
依頼者は「測定条件の説明は残す。製品名の列挙は短くする。結論の前に、実際の仕事で何が変わるかを説明する」と返す。 AIは指定された節を直し、引用に支えられる事実と、比較から導く解釈を保つ。 次の版では、指定した変更が反映されたかに加え、残すと決めた説明が消えていないかを見る。
構成だけを確認しても、全文の読み応えは決まらない。 構成が合えば本文を広げ、節と節のつながりも読む。 修正対象を小さくする意味は、完成に必要な説明を減らすことではない。 何を残し、何を変えたかを、人が確認できる単位にすることである。
この往復で決まるのは、説明の順序や密度、依頼者が重視する点だ。 製品の能力や研究の数字は、納得できる文章になっても原典と照合する。 希望への適合と事実確認は重なることもあるが、一方の合格で他方を済ませない。
試作品にも、思い込みと確認費用がある
最初の案が具体的になるほど、人はその案の修正だけを考え、別の構成を検討しにくくなる可能性がある。 まだ説明順序を選んでいないなら、同じ構成の言い換えを三つ出すより、事例から始める案と比較から始める案を並べる方法がある。 何の違いを選ぶための二案なのかを明示する。 これは本稿が提案する方法であり、最適な案数を測った結果ではない。
小さすぎる途中成果にも限界がある。 見出しだけでは専門語の難しさが分からず、一画面だけでは操作のつながりが分からないことがある。 判断に必要な文や操作を足し、判定できる範囲にする。 全体を毎回作り直せば、読む時間や比較する負担が大きくなる。
試作の効果を確かめるなら、完成度だけでなく、確認時間、直し直した回数、指定外の変更も見る。 既存のテンプレートや一度の生成で足りる作業と比べ、同じ品質で負担が減ったかを調べる。 案を増やしたこと自体を、共同作業がよくなった証拠にしない。
会話に散った条件を、現在の依頼へまとめる
LLMs Get Lost In Multi-Turn Conversationは、六種類の生成課題で、条件を一度に与える場合と、複数回に分けて与える場合を比較した。 20万件以上の模擬会話を分析し、後者では性能が平均39%低下したと報告している。 初期の推測に依存し続ける問題が見られた。 これは条件の伝え方の比較であり、どんな修正対話でも長さに応じて一律に悪化するという測定ではない。
記事で構成が決まったら、読者、中心の問い、残す例、変更しない条件を現在の依頼としてまとめ直す。 以前の指示と矛盾する点は、どちらを採用したかも記す。 AIの要約だけに任せず、決めた内容が落ちていないか人が確認する。
修正前の版を残し、指定した箇所と、その説明に依存する箇所を比較する。 同じ指摘が反映されない場合は、回数だけを増やさない。 変更対象を絞り直すか、合意した条件を整理して再開する。 こうした整理は実務上の提案であり、要約すれば失敗が必ず消えるという保証ではない。
完成は、会話の手応え以外でも確かめる
記事なら、読者の問いに答え、必要な比較と根拠を残し、数値の条件を原典で確かめられることが終了条件になる。 コードなら、合意した動作をテストし、変更差分や例外の扱いも確認する。 画像なら、選んだ構図や用途に合うかを見て、利用条件も確認する。 共同作業の手順が似ていても、最後の検査は成果物ごとに異なる。
Anthropicの公式解説は、途中の確認や評価と修正を扱う一方、単純な方法で足りるなら複雑さを増やさないよう勧めている。 修正しても判断が変わらない、確認費用だけが増える、といった場合は方法を見直す。 反復回数や終了条件を決めることも、任せ方の一部になる。
「気に入った」だけで完成にすると、もっともらしい誤りを残せる。 反対に、検査を通った後も曖昧な「もっとよく」を繰り返すと、何のために直すか分からなくなる。 残る不足を具体的に示し、なくなった時点で終える。
希望を言い切れなくても、判断できるところから始める
研究が支えるのは、質問、途中結果、テスト、修正が、それぞれ異なる条件で役立つことだ。 全員が使う一つの共同作業手法や、試作の普遍的な優位を示すものではない。 本稿はその違いから、人が次の判断をできる形で作業を進めることを勧める。
最初から完璧な指示文を完成させる必要はない。 分かる条件を伝え、判断に足りる小さな案を見て、残す理由と直す点を返す。 その選択を次の版へ渡し、希望への適合と根拠による検査をそろえる。 AIとの共同作業を、会話の長さではなく、欲しい仕事を確かめながら作れる過程にしたい。