一个无法回答的问题
“为什么这笔贷款被拒绝了？”
银行经理看着AI风控系统的输出，上面只有一个数字：拒绝。没有理由，没有解释，没有申诉渠道。AI说"不"，但没有说"为什么"。
这不是未来场景。2026年，越来越多的金融、医疗、司法决策由AI辅助或完全自动化。而这些AI系统有一个共同特征：它们无法解释自己。
观点一：可解释性是底线，不可解释的AI不可接受
支持这一观点的阵营认为：如果一个AI系统无法解释它的决策，它就不应该被部署在影响人类命运的场景中。
他们的论据是：
第一，人类决策的合法性来自可解释性。 法官的判决有判决书，医生的诊断有病历，银行的贷款审批有审批意见。这些"解释"不仅是让当事人理解，更是让决策者承担责任。当一个AI替代人类做决策，它也必须继承这个"解释的义务"。
第二，不可解释的AI意味着不可问责。 如果AI歧视了某个群体，但没人能解释AI为什么做出这个决策，你怎么证明歧视存在？你怎么起诉？你怎么纠正？可解释性是问责的前提。
第三，可解释性不是技术问题，是权力问题。 当AI公司说"模型太复杂，无法解释"，他们实际上是在说"你不需要知道为什么，你只需要接受结果"。这是一种技术威权主义——用技术的复杂性来逃避解释的责任。
观点二：可解释性被高估了，人类自己也不可解释
反对派阵营提出了一个有力的反驳：人类决策也经常不可解释，但人类照样在做决策。
他们的论据是：
第一，人类决策的"解释"往往是事后合理化。 认知科学的研究表明，人类做决策时，往往是直觉先行，理性后补。我们以为自己在"理性决策"，实际上是用理性包装直觉。AI的决策过程，可能比人类更"可解释"——至少AI的权重是确定的，人类的直觉是模糊的。
第二，追求可解释性会牺牲准确性。 最简单的AI模型（线性回归）完全可解释，但它的预测能力很差。最强大的AI模型（深度神经网络）几乎不可解释，但它的预测能力远超简单模型。你是在要一个可解释但错误的决策，还是一个不可解释但正确的决策？
第三，可解释性是一个"奢侈的要求"。 在医疗领域，如果AI能比人类医生更准确地诊断癌症，你真的在乎AI的推理过程"不可解释"吗？你更在乎的是诊断准确，还是诊断过程"可解释"？
中间的裂缝
这两个观点之间的裂缝，不是技术问题，而是信任问题。
当人类医生做出诊断，我们信任他，因为我们对"医生"这个职业有制度性的信任——他受过训练、他有执照、他可以被追责。当AI做出诊断，我们没有这种信任，所以我们要求"可解释"。
可解释性的真正需求，不是"理解AI"，而是"信任AI"。而信任，不完全来自解释，还来自制度。
金句
“AI可解释性的争论，本质上是’谁有权决定什么是真相’的争论。当AI说’不’，你能接受’不解释’吗？如果你不能，那么你需要的不是更透明的AI，而是更公平的AI治理制度。”
我的立场
我站在中间的实用主义立场：AI的可解释性不是二元的（可解释/不可解释），而是连续的。对于低风险决策（推荐一部电影），可解释性不重要。对于高风险决策（拒绝一笔贷款、诊断一种疾病），可解释性是必须的。
AI的可解释性不应该是一个技术标准，而应该是一个风险分级制度。 风险越高，可解释性的要求越高。这不是完美的解决方案，但它是可操作的。而可操作的方案，比完美的争论更有价值。