《IEEE Technology and Society Magazine》：Locating Accountability and Centering the Margins for Ethical Technology Futures
编辑推荐：
技术创新的伦理失败在高风险情境和应用中显而易见，但这些伦理差距背后的决策——以设计假设、制度约束和培训实践的形式在上游系统性地产生——往往与创新部署脱节。这在现实用例中显而易见，例如为需要持续护理和支持的个人应用家庭护理技术，在这些用例中，医疗、监控和数字系统
技术创新的伦理失败在高风险情境和应用中显而易见，但这些伦理差距背后的决策——以设计假设、制度约束和培训实践的形式在上游系统性地产生——往往与创新部署脱节。这在现实用例中显而易见，例如为需要持续护理和支持的个人应用家庭护理技术，在这些用例中，医疗、监控和数字系统之间的多重张力在持续依赖和现实约束的条件下相互冲突。除了滥用和意外后果之外，伦理失败在此背景下源于忽视真实用户及其所处社会系统需求的假设和实践。这些假设通常嵌入在将创新与最需要技术的人的社会、经济和历史背景隔离的设计和制度过程中。本期特刊源自滑铁卢大学“面向全球未来的伦理技术”（ETGF）研讨会，考察此类失败如何嵌入技术创新的全生命周期，并探索可通过设计、制度和教育条件解决这些失败。滑铁卢大学“面向全球未来的伦理技术”研讨会组织委员会成员与主旨演讲者Maurita T. Harris博士合影（顺时针从左上方起：Avri Jeffcott、Jacqueline Cardoso、Kayla J. Russell、Jin Sol Kim、Christopher Taylor、Shanté Francis Paddy、Fatima K. Suleiman、Heather A. Love、Maurita T. Harris；缺席：Kujang Natana和Carter Neal）显示全部。本期特刊以两篇考察家庭护理技术中伦理失败的文章开篇，以另外两篇将伦理与责任定位于上游培训和设计的文章收尾。首届由学生主导的ETGF研讨会于2025年10月举行，汇集了跨学科视角，考察伦理、正义和责任在塑造技术创新中的作用[1]。研讨会上的演讲和讨论探讨了技术变革的现实世界影响，涉及技术使用者的生活经验以及塑造这些经验的社会、政治和设计景观。本期呈现的四篇论文围绕这一主题展开：它们既考察伦理失败如何在现实世界中显现，也考察这些失败如何通过上游设计、培训和治理实践形成——因而必须加以解决。关键在于，本期贡献将这些伦理失败定位为技术设计的特征而非意外后果的产物，因为现实世界条件和边缘情况往往在技术的设计管道中被忽视。本期特刊以两篇考察家庭护理技术中伦理失败的文章[A1]、[A2]开篇，以另外两篇将伦理与责任定位于上游培训和设计的文章[A3]、[A4]收尾。选择这一顺序的意图是让读者留下行动呼吁：拥抱以伦理为中心的技术创新方法——包括对边缘的考量——通过设计来达成。本期特刊以两篇考察家庭护理技术中伦理失败的文章开篇，以另外两篇将伦理与责任定位于上游培训和设计的文章收尾。在第一篇文章[A1]中，Noon通过突出设计假设与护理现实之间的错位来考察家庭护理技术中的伦理失败。评论聚焦于老年人采用生活方式监测设备的系统性障碍，清晰区分了这些创新的感知可负担性和可及性与实际可负担性和可及性。设计假设通常将老年人视为同质群体，忽视了社会经济资源、数字素养、可用支持系统和技术信任方面的差异，这些差异由医疗、监控及其他社会系统中的不公正经历塑造。通过将伦理失败重新定义为技术与生活现实的错位，本文概述了具体方向，考虑了用户的多样性以及塑造获取、采用和持续使用的社会经济和制度条件，这些条件对改善护理至关重要。第二篇文章[A2]将这一分析扩展到集体护理系统，其中责任分布在轮流照护者、临床医生和支持网络之间。为回应Maurita T. Harris博士（威尔弗里德·劳里埃大学）在ETGF主旨演讲中“以边缘为中心”的呼吁，Tennant以家庭护理环境中的三环活页夹为例，说明现有照护者记录保存实践如何满足共享访问、连续性和可靠性的关键要求，尤其是在结构性不平等塑造的约束条件下。相比之下，许多数字工具在这一实践中引入了摩擦，而未保留低等技术等效物的基线功能，揭示了一个更深层次的问题：家庭护理技术通常并非为护理交付的现实而设计。即使解决了获取和采用的障碍，技术创新也可能成为新负担来源而非支持，尤其是在集体护理的复杂系统中。为解决这一问题，Tennant引入了“活页夹测试”作为实际基准，用于评估家庭护理技术的创新是否满足现有低技术系统已实现的功能要求。这种重新框架挑战了创新直接转化为改善护理的假设，并将有意义创新的关键标准重新定义为在现实约束下满足或超越功能基线的能力。在Bin Noon和Tennant的文章敦促研究人员考虑被家庭护理技术设计进一步边缘化的用户时，Cardoso和Lubin的文章将注意力转向对利益相关者责任的考察，特别聚焦工程师在技术创新中的作用。对于Cardoso[A3]，大型语言模型（LLMs）潜在风险和危害周围的问责缺失和伦理失败，部分源于感知到的能动性从人类向机器“作者”的转移。Cardoso认为，将AI模型视为生成自身“原创”回应的独立说服代理，这种观点消除了人类在LLMs生产链中的责任。然而，由于机器没有能动性，这种框架构成了伦理失败：它有问题地取代了人类在解决有害LLM输出方面的责任问题。提出的解决方案是采用修辞视角：通过将工程师视为修辞者，Cardoso断言，可以开始重新在工程管道中建立人类能动性的过程。这不仅促使个体工程师反思自身作为知识生产者的角色——作为构建特定现实版本的个体——还邀请集体问责文化在工程空间中繁荣的可能性。尽管人工智能和技术创新继续被誉为在社会中产生突破性进展，但它们是否会摆脱西方技术的文化霸权仍有待观察。Lubin [A4]对负责任创新采取了类似立场，但进一步明确指出，将工程师视为对其产品负有社会责任的世界构建者的转变必须从工程教育开始。她批评说，尽管认识到各种AI系统吸收并将现有霸权延伸到其算法操作中的方式，当前教育系统继续促进一种无限创新的文化，优先考虑技术卓越性和功能性，而非批判意识和设计，因为工程学生被教导在问“它应该存在吗？”之前先问“它工作吗？”。为应对这一伦理失败，Lubin提出了批判性设计教学法的四项原则：1）优先提出问题而非解决方案主义，从关于技术需求的根本问题开始；2）在设计过程中培养修辞意识，以审视设计优先的价值观和目标；3）以参与式和基于社区的设计为中心，承认受技术严重影响的群体以及他们如何被纳入共同设计；4）教授谱系分析，以识别技术再生产或挑战的现有边缘化系统。结合教学实践和制度变革的具体建议，这些原则提供了早期步骤，以正义作为工程教育的基础而非事后思考。在更广泛的特刊背景下，这四项教学行动呼吁邀请读者回顾Cardoso、Tennant和Bin Noon在其论文中探讨的具体案例研究，每个案例都提供了超出其应用语境的教育价值和批判反思潜力。尽管人工智能和技术创新继续被誉为在社会中产生突破性进展，但它们是否会摆脱西方技术的文化霸权仍有待观察。总之，尽管本期特刊的四篇论文是在2025年10月“面向全球未来的伦理技术”研讨会上的特定地点呈现的，但其总体主题提供了对当今围绕技术创新，尤其是人工智能的一些最紧迫问题的窥探。对于那些关注新兴技术社会后果的人来说，这些技术对边缘群体和个体的不成比例伤害以及向工程问责文化转变的需求无疑是熟悉的：它们不过是现代性制度模式的新算法表现。尽管人工智能和技术创新继续被誉为在社会中产生突破性进展，但它们是否会摆脱西方技术的文化霸权仍有待观察。这种激进制度变革的尝试必须始于以现实世界的边缘用户为中心，并将问责定位于未来的工程师之中。致谢：研究人员感谢ETGF研讨会组织委员会成员，特别是学生组织者Jacqueline Cardoso、Shanté Francis Paddy、Avri Jeffcott、Kujang Natana和Kayla Russell，他们的贡献对活动的规划和执行至关重要。研究人员也感谢Laura Mae Lindo博士、Marcel O’Gorman博士和Pamela Braza Pitman的宝贵支持与贡献。特别感谢ETGF研讨会主旨演讲者Maurita Harris博士和Cosmin Munteanu博士参与主旨小组。这项工作得到了加拿大社会科学与人文研究理事会（SSHRC）资助的ETGF研讨会的支持，并与滑铁卢大学黑人集体、黑人研究项目和批判媒体实验室（CML）合作。Heather A. Love、Carter Neal和Christopher Stuart Taylor是ETGF研讨会（特刊论文由此产生）的院系主任，并与Jin Sol Kim和Fatima K. Suleiman共同编辑特刊；Heather A. Love为特刊论文和引言提供了反馈。 附录：相关文章 G. B. Noon，“谁被落下？家庭护理创新背后的不适问题”，《IEEE技术与社会杂志》，第45卷，第2期，第31–36页，2026年6月，doi: 10.1109/MTS.2026.3677781。R. Tennant，“集体护理与伦理创新：将‘活页夹测试’应用于家庭护理技术”，《IEEE技术与社会杂志》，第45卷，第2期，第37–43页，2026年6月，doi: 10.1109/MTS.2026.3677961。J. Cardoso，“变革推动者：解码大型语言模型中的人类声音”，《IEEE技术与社会杂志》，第45卷，第2期，第44–49页，2026年6月，doi: 10.1109/MTS.2026.3688159。K.-L. Lubin，“教授正义：为伦理AI系统重新构想STEM教育”，《IEEE技术与社会杂志》，第45卷，第2期，第50–55页，2026年6月，doi: 10.1109/MTS.2026.3684716。
**研究背景与问题提出**
当前技术创新的伦理失败在高风险场景（如医疗、监控）中频繁暴露，但这些失败并非单纯的意外后果，而是源于上游设计假设、制度约束和培训实践中的系统性偏差。例如，家庭护理技术（home-care technologies）在服务于需要持续照护的老年人时，设计者常将用户视为同质群体，忽视其在社会经济资源、数字素养、支持系统及技术信任上的差异，导致技术无法适配真实使用条件。此类问题本质上是技术设计与社会现实脱节的产物，而现有研究多聚焦于下游部署，对上游（设计、教育、制度）的问责机制关注不足。为此，滑铁卢大学于2025年10月举办了首届学生主导的“面向全球未来的伦理技术”（ETGF）研讨会，旨在集合跨学科视角，探讨伦理、正义和责任如何在技术创新的全生命周期中嵌入与被忽视。本期《IEEE Technology and Society Magazine》特刊基于该研讨会成果，系统分析了伦理失败在现实语境中的显现方式，并探索通过设计、培训与治理实践解决问题的路径。
**研究内容与主要结论**
研究人员通过四篇论文，从家庭护理技术中的具体案例出发，延伸至工程师教育与设计责任，得出以下核心结论：伦理失败是技术设计的“特征”而非偶然缺陷，必须通过重新定位问责机制——特别是以边缘用户（margins）为中心——来推动制度性变革。这些研究的重要意义在于，将技术伦理从“补救性反思”转向“上游嵌入”，呼吁工程教育与创新文化优先考量“技术是否应该存在”而非仅关注“技术是否有效”。
**关键技术方法**
本研究主要采用批判性分析与案例研究法，无实验或样本队列。关键方法包括：1）对家庭护理技术（如生活方式监测设备）设计假设与真实用户需求的对比分析；2）引入“活页夹测试”（binder test）作为低技术基线基准，评估数字工具是否满足现实护理系统的功能要求；3）基于修辞视角将工程师视为“修辞者”（rhetoricians），重新建立大型语言模型（LLMs）生产中的人类能动性与问责链；4）提出批判性设计教学法（critical design pedagogy）的四项原则，包括问题优先、修辞意识、参与式设计及谱系分析，以推动工程教育中对正义的扎根。
**研究结果**
（保留了论文中的四个小标题及其结论）
- **文章1（Noon）：谁被落下？家庭护理创新背后的不适问题**
通过分析老年人采用生活方式监测设备的系统性障碍，研究者发现设计假设将老年人视为同质群体，忽视了其在社会经济资源、数字素养和支持系统中的差异。结论：伦理失败源于技术与生活现实的错位，需重新定义可负担性和可及性，考虑用户多样性及塑造获取与持续使用的制度条件。
- **文章2（Tennant）：集体护理与伦理创新：将“活页夹测试”应用于家庭护理技术**
基于集体护理系统中责任分布式特点（如照护者、临床医生），研究者以三环活页夹为例，说明现有低技术记录方式已满足共享访问、连续性与可靠性要求；而数字工具往往引入摩擦且未保留基线功能。结论：提出“活页夹测试”作为实用基准，要求技术创新必须超越或至少达到低技术系统的功能基线，否则可能成为新负担。
- **文章3（Cardoso）：变革推动者：解码大型语言模型中的人类声音**
针对大型语言模型（LLMs）的伦理失败（如有害输出），研究者指出现有观点将AI视为独立说服代理，导致人类问责被转移。结论：引入修辞视角，将工程师视为“修辞者”，恢复其在生产链中的能动性，并促进集体问责文化的形成。
- **文章4（Lubin）：教授正义：为伦理AI系统重新构想STEM教育**
批判当前工程教育优先“技术是否有效”而非“技术是否应该存在”的文化，研究者提出四项批判性设计教学法原则：问题优先、修辞意识、参与式与社区设计、谱系分析。结论：必须从教育入手，使正义成为工程基础而非事后思考，配合制度变革建议可推动工程师作为世界构建者的社会责任。
**总结讨论与结论**
讨论部分强调，四篇论文虽源于具体研讨会场景，但其主题反映了当代技术创新，尤其是人工智能（AI）领域最紧迫的议题：新技术对边缘群体的不成比例伤害，以及工程问责文化的缺失。这些伦理失败实质上是现代性制度模式的新算法表现。研究结论如下：尽管人工智能和技术创新继续被誉为社会突破性进展，但它们是否会摆脱西方技术的文化霸权仍有待观察。实现根本性制度变革必须始于以现实世界中的边缘用户为中心，并将问责定位于未来工程师的培养之中。
