検証: AIハーネスは「強くする」より「アシュビー的に多様にする」べきでは
00:01:15 ・ source: https://zenn.dev/mskbhd/articles/lab-234-ai-note
Transcript
hostenToday we explore Ashby's Law applied to AI harness design—should we make AI stronger or more diverse?
guestjaAIハーネスの設計について、強力にするのではなく多様にすべきというアシュビーの法則の考え方を探ります。
hostenAshby's Law says: only variety can destroy variety—a controller must be as diverse as what it controls.
guestjaアシュビーの法則では、制御側の多様性がタスク空間の多様性に見合わなければ対応できない、ということですね。
hostenExactly—so add varied response patterns: multiple tools, reflection, multi-agent, model routing—not just a stronger single model.
guestjaつまり、複数のレンズや異なるアプローチを組み込むことで、想定外に対応する力が高まるということです。
hostenThe author tested it: one generic prompt repeated five times found zero extra bugs, but five specialized lenses found five new issues.
guestja実験結果では、同じプロンプト5回繰り返しは新しい発見がゼロ件でしたが、5つの異なる専門的視点では5件の追加バグを発見しました。
hostenThis suggests diversity—not raw power—is what handles the unexpected in real-world AI systems.
guestjaつまり、AIシステムの堅牢性を高めるには、強さよりも多様性こそが本質的に重要だということですね。