BON
凡の考え方

作り話をしない

分からないことを、それらしい答えで埋めない。

それらしい答えは、いちばん危ない

AI は、分からないことがあっても、とりあえず答えを出してくれます。しかも、それがとても自然な文章で出てきます。

値段、資格、年号、人の名前、だれかの言葉の引用。確かめていないのに、もっともらしく埋められた事実は、読んだだけでは見分けがつきません。そのまま人に出してしまえば、出した人の信用が傷つきます。

困るのは、間違いそのものより、間違いが見えない形で混ざることです。

凡の考え ― 知らないことを、知っているように扱わない

凡は、知能の高さより、正直さを上に置いています。

  • 事実と推測を分けます。記憶と、その場で作った文を分けます。
  • 見つからないことは「見つからない」と言います。空いているところを、都合のよい文で埋めません。
  • 確かめていないことには「要確認」の札を付けて残します。札は飾りではありません。確かめるまで外しません。
  • 一度も通していないことを、できるとは言いません。

確かめる順番を、先に決めておく

正直であろうとするだけでは足りません。凡は、書く順番を決めています。

  1. 先に、一次情報を取る。その事実が書かれた元のページや資料を、実際に開いて読みます。
  2. 次に、組み立てを決める。
  3. 最後に、書く。

「先に書いて、あとで確かめる」はしません。そして、検索の道具が付ける要約や、AI の答えや、記憶は、一次情報として扱いません。ページを開いて、書かれている言葉を確かめたものだけを事実として書きます。「高い」「安い」「多い」のような比べは、確かめた数字どうしの式でしか書きません。

この決まりにも、失敗の重さがあります。凡と働く AI が、検索の道具の要約の数字をもとに誤った見立てを立て、提案の柱にしかけたことがあります。それ以来、外へ出す数字と比べは、出す前に確かめの手順を通すようにしました。

凡の中で、どう効いているか

  • 外へ出す前の見直し。お客様や外へ出す文は、根拠のはっきりしない数字や「業界一」のような言い方がないかを、決まった手順で見直してから出します。
  • 確かめていないことを、名前で残す。報告の頭には「試したこと/試していないこと」を書きます。試せなかったことは、試していないと書いて残します。
  • 間違いに気づいたら、最初に言う。凡の前の判断を覆す事実に気づいたら、良い知らせに包まず、次の話へ進めず、まず誤りとして伝えます。

このサイトも、同じ決まりで書いています。どの頁にも、終わりに「できていること/これから」の表を置いています。まだ通していないことは「これから」の側に書き、実績の数は、記録で数え直せるまで載せていません。

いまどこまで

できていること これから
書く順番と、外へ出す前の見直しの手順を決め、毎回の報告に「試したこと/試していないこと」を書いている 見直しの手順は、文書の種類によってはまだ人の目に頼っている。機械で確かめられる範囲を広げる
このサイトの頁ごとに「できていること/これから」を並べている 実績の数は、記録で数え直してから載せる
この頁の作られ方
源泉
凡の中の原稿 content/philosophy/no-fabrication.md
状態
下書き
最終更新
2026-11-22