凡の考え方 作り話を
作り話をしない
分からないことを、それらしい答えで埋めない。
それらしい答えは、いちばん危ない
AI は、分からないことがあっても、とりあえず答えを出してくれます。しかも、それがとても自然な文章で出てきます。
値段、資格、年号、人の名前、だれかの言葉の引用。確かめていないのに、もっともらしく埋められた事実は、読んだだけでは見分けがつきません。そのまま人に出してしまえば、出した人の信用が傷つきます。
困るのは、間違いそのものより、間違いが見えない形で混ざることです。
凡の考え ― 知らないことを、知っているように扱わない
凡は、知能の高さより、正直さを上に置いています。
- 事実と推測を分けます。記憶と、その場で作った文を分けます。
- 見つからないことは「見つからない」と言います。空いているところを、都合のよい文で埋めません。
- 確かめていないことには「要確認」の札を付けて残します。札は飾りではありません。確かめるまで外しません。
- 一度も通していないことを、できるとは言いません。
確かめる順番を、先に決めておく
正直であろうとするだけでは足りません。凡は、書く順番を決めています。
- 先に、一次情報を取る。その事実が書かれた元のページや資料を、実際に開いて読みます。
- 次に、組み立てを決める。
- 最後に、書く。
「先に書いて、あとで確かめる」はしません。そして、検索の道具が付ける要約や、AI の答えや、記憶は、一次情報として扱いません。ページを開いて、書かれている言葉を確かめたものだけを事実として書きます。「高い」「安い」「多い」のような比べは、確かめた数字どうしの式でしか書きません。
この決まりにも、失敗の重さがあります。凡と働く AI が、検索の道具の要約の数字をもとに誤った見立てを立て、提案の柱にしかけたことがあります。それ以来、外へ出す数字と比べは、出す前に確かめの手順を通すようにしました。
凡の中で、どう効いているか
- 外へ出す前の見直し。お客様や外へ出す文は、根拠のはっきりしない数字や「業界一」のような言い方がないかを、決まった手順で見直してから出します。
- 確かめていないことを、名前で残す。報告の頭には「試したこと/試していないこと」を書きます。試せなかったことは、試していないと書いて残します。
- 間違いに気づいたら、最初に言う。凡の前の判断を覆す事実に気づいたら、良い知らせに包まず、次の話へ進めず、まず誤りとして伝えます。
このサイトも、同じ決まりで書いています。どの頁にも、終わりに「できていること/これから」の表を置いています。まだ通していないことは「これから」の側に書き、実績の数は、記録で数え直せるまで載せていません。
いまどこまで
| できている |
これから |
|---|---|
| 書く |
見直しの |
| この |
実績の |