脑机接口出了问题,谁来背锅?
这时候,一个极具现实意义的问题出现了:谁来赔?
是患者的脑子想歪了,算法理解错了,电极突然抽风了,还是研发人员写代码时少喝了一杯咖啡?
传统机器出了问题,责任通常不难找。电饭锅漏电,可以检查线路;汽车刹车失灵,可以拆开制动系统;椅子坐塌了,也能看看究竟是材料不合格,还是使用者对“承重极限”过于乐观。
但脑机接口不一样。它不是一台安安静静待在角落里的机器,而是直接接入人的神经系统。一边是大脑释放的神经信号,一边是算法不断猜测“这个人到底想干什么”,中间还夹着电极、芯片、固件、云端模型和持续更新的软件。
于是,脑机接口一旦出事,现场很容易变成大型甩锅比赛。
研发者可能会说:“设备本身没问题,是使用者发出的神经信号不稳定。”
使用者可能会说:“我明明只想拿咖啡,是你们的算法脑补过度。”
算法当然不会说话。即使给它配上语音系统,它大概也只会礼貌地回答:“根据现有信息,暂时无法确定责任主体。”
胡今超等人在《脑机接口研发者产品责任的归责难题与治理路径》一文中,专门讨论了这个问题。文章研究的主要是风险更高的侵入式脑机接口,也就是需要将电极等设备植入人体、直接读取或者调控神经活动的那一类。
文献:https://link.cnki.net/urlid/31.1600.Q.20260714.1702.006
作者:胡今超,石桐赫,马冰花,栗美娜,徐拯
作者给出的基本判断是:脑机接口出了技术性问题,不能轻易让使用者自己扛。总体上,应当由研发者承担主要责任,使用者承担辅助责任。

这个结论并不是因为研发人员比较适合“背锅”,而是因为在整套系统中,研发者最了解风险,也最有能力控制风险。
普通使用者能做的事情其实很少。他看不到源代码,不知道训练数据是否存在偏差,也无法判断下一次软件更新会不会让系统产生新的问题。脑机接口每秒可能处理大量神经信号,使用者不可能在系统做出动作前大喊一句:“等一下,这段代码可能有漏洞!”
研发者就不一样了。他们掌握硬件设计、算法模型、训练数据、固件升级和系统停止权限,可以决定产品怎么设计、什么时候更新、发现风险后是否修复。即使研发者也无法预测算法的每一次输出,他们仍然比使用者更容易发现问题、预防损害和购买保险。
用法经济学的话来说,研发者是“最小成本预防者”。翻译成人话就是:谁能用更低的成本避免事故,谁就应该承担更多责任。
当然,这并不意味着只要脑机接口出了任何问题,就可以把研发者拉过来结账。
产品责任成立的关键,仍然是产品是否存在“缺陷”。论文把脑机接口的缺陷分成了三类。
第一类是制造缺陷。比如设计要求使用某种生物相容性材料,实际产品却偷偷换了便宜材料;软件发布时也许是正常版本,安装到设备里以后却少了一段代码,或者被进行了未经授权的修改。这类问题比较接近传统产品缺陷,查起来也相对直接。
第二类是设计缺陷。产品完全按照图纸制造出来了,但图纸本身就有问题。例如研发者明明可以用合理成本采用一种更安全的算法或电极设计,却为了赶进度、抢市场或者节约成本,坚持使用风险更大的方案。后来真的发生损害,研发者就很难用一句“产品是按设计生产的”脱身——因为问题恰恰出在设计上。
第三类是警示缺陷。产品可能存在无法彻底消除的风险,但研发者没有把话说清楚。例如只在说明书角落里写一句“使用过程中可能出现不适”,却没有明确告诉使用者,设备可能造成长期神经损伤、神经数据泄露、算法误判或者行为控制偏差。这就像游乐园只提醒游客“可能有点刺激”,却没告诉他安全带偶尔会自行探索自由。
脑机接口还有一个更麻烦的特点:它会更新。
传统产品出厂以后,状态通常不会发生根本变化。一把锤子用了半年,正常情况下不会通过远程更新突然学会自己找钉子。但脑机接口的算法可能在云端持续训练,固件可以远程升级,功能会随着数据积累不断改变。
因此,判断脑机接口有没有缺陷,不能只盯着出厂那一天。产品刚交付时也许很安全,三个月后的一次算法更新却可能带来新的风险。如果研发者发现问题后没有修复、没有通知用户,也没有停止相关功能,那么责任不能因为产品“早就卖出去了”而自动消失。
论文因此主张建立覆盖产品整个生命周期的动态缺陷认定机制。简单来说,研发者不能卖完设备就拍拍手,说一句“后面的事请联系人工客服”。从硬件植入、软件运行到算法更新、风险警示和必要时的召回,都应该有人持续负责。
不过,不同阶段的责任也不能完全一样。
在临床试验阶段,技术还不成熟,受试者与研发者之间的信息差距最大。受试者面对的基本是一个黑箱,而研发者控制着从硬件部署到算法更新的整个链条。因此,文章主张这一阶段由研发者承担产品责任,同时通过缺陷抗辩和责任保险划定边界、分散风险。
也就是说,研发者需要负责,但不是无限负责。如果某种缺陷按照当时的科学技术水平确实无法发现,研发者可以依法提出抗辩。否则,要求科研人员提前预测所有未知风险,就相当于要求他们不仅会写代码、做实验,还得兼职穿越时空。
产品上市后,还要区分用途。
对于直接治疗疾病、干预中枢神经系统的高风险医疗级设备,文章认为仍应当保持较严格的产品责任。毕竟这类设备一旦出错,可能造成不可逆的神经损伤。
对于面向健康人群的商用增强型设备,则可以采用过错推定责任。使用者只需要初步证明产品存在不合理危险,接下来由研发者证明自己已经采取合理设计、持续更新和充分警示等措施。
这种安排试图解决一个两难问题:责任太轻,受害者可能求助无门;责任太重,研发机构和企业又可能不敢创新,或者把高额风险成本全部写进产品价格,最后还是消费者付款。
除了重新划分责任,论文还提出了一个很现实的工具:保险。
脑机接口风险复杂,单靠研发者赔偿不一定够。尤其是长期神经损伤、人格权侵害、神经数据泄露,以及使用者借助设备对第三人造成的损害,可能持续时间长、赔偿金额高,甚至连保险公司看完条款都想假装信号不好。
作者建议扩大责任保险的保障范围,同时让研发企业、监管机构和保险公司共享经过脱敏处理的风险数据。数据越充分,保险公司越容易评估风险和确定保费,监管部门也能更早发现问题。
做得好的研发者,比如建立实时监测系统、主动公开算法风险、及时更新安全补丁,可以获得更低的保险费率;风险高、管理混乱的项目,则要付出更高成本。这样一来,保险不只是事故发生后负责赔钱,也可以反过来推动企业提高安全水平。
归根结底,脑机接口带来的并不只是一个“机器坏了谁来修”的问题。它直接进入人的神经系统,参与识别意图、形成表达甚至控制行为,模糊了人和机器之间原本清晰的界线。
未来再遇到机械臂突然打翻咖啡的情况,法律不能简单地问:“到底是人干的,还是机器干的?”更应该继续追问:风险是谁制造的?技术掌握在谁手里?谁最有能力提前避免损害?产品出问题以后,谁又有能力修复和赔偿?
论文给出的答案是:研发者不能把所有问题都推给使用者,但也不应为人类尚未认识的全部风险承担无限责任。更合理的方式,是让责任随着技术风险、产品用途和生命周期动态变化,再用监管和保险把无法完全避免的风险分散出去。
毕竟,脑机接口的目标是帮助人类控制机器。
如果最后变成机器闯祸、人类互相甩锅,那就多少有点偏离研发初衷了。
注:此文仅代表小编自己的看法,不代表该文献作者的观点。
本文2026-07-20 12:34:03发表“行业新闻”栏目。
本文链接:https://www.yixiuqixie.com/article/1130.html
- 脑机新声-中国脑机接口产业14城城市布局深度研究报告202605.pdf
- 全球非侵入式脑机接口(BCI)行业深度调研与代表性企业进展报告.pdf
- 脑机新声内参:全球脑机接口电极与核心材料技术全景解析.pdf
- 脑机新声内参(下册):中国脑机接口产业扶持与宏观政策汇编.pdf
- 脑机新声汇编《中国脑机接口医疗准入与医保定价全景汇编(上册)》.pdf
- 脑机接口入行指导手册-脑机新声0505(1).pdf
- 河北省脑机接口产业发展规划建议-脑机新声.pdf
- 传统药企进入脑机接口赛道行业研究及可行性分析报告.pdf
- 【压缩版】神经介入企业进入脑机接口赛道的机会和挑战.pdf
- 【脑机新声】全球脑机接口技术前沿:2026年十大最具代表性BCI公司临床进展与行业深度洞察报告.pdf


















