INFO5990-Week12-Lecture-Summary
一、本周整体框架
Week 12 Lecture 的主题是 Ethics（IT 伦理），是整门课的收尾——从技术、项目、治理与安全，回到 IT 专业人员的道德责任：在法律之外，如何做"正确"的事。
本周讲义按以下议程（Agenda）展开：
- Introduction（伦理基础）
- Ethical Issues in IT（IT 中的伦理议题）
- Professional Code of Ethics（职业伦理准则）
- Ethical Decision Making Models（伦理决策模型）
核心逻辑链：
先理解伦理是什么及其与法律的区别 → 掌握 IT 中的核心伦理原则 → 识别 IT 实践中的主要伦理议题 → 用职业准则（ACS）提供标准与问责 → 用三大决策模型（功利主义/义务论/美德伦理）在两难中做出有理有据的判断 → 最后应对新兴技术带来的新伦理挑战，平衡创新与责任。
二、Introduction（伦理基础）
2.1 什么是伦理
伦理（Ethics）是研究是非、善恶以及人应当如何行为的哲学分支，提供评价人类行动、决策与意图的框架——尤其当"正确选择"并不显而易见时。在 IT 专业语境中，伦理指引导 IT 专业人员在开发、管理或使用技术时行为的道德标准，涉及在决策影响他人隐私、安全或信任时的负责任决策。
2.2 伦理的四个关键要素
- 价值（Values）： 深层信念或理想，塑造我们认为何为对错（如正直、尊重、责任、公平、可信）。
- 原则（Principles）： 由价值衍生的一般标准或规则，把抽象价值转化为具体指引（如保密、透明、问责、不作恶）。
- 行为（Behavior）： 价值与原则在现实决策中的可观察表达——伦理通过一贯的行为而非仅信念来体现。
- 后果（Consequences）： 伦理（或非伦理）行动的结果，帮助判断行动是否与既定价值一致。
2.3 伦理框架与为何重要
伦理框架（Ethical Framework） 是思考是非的结构化方式，帮助专业人员在规则不明或冲突时做出一致、有理有据的决策。IT 充满复杂、高影响的决策（处理个人数据、构建 AI、管理自动化、保护网络），而仅靠合法并不够——很多情境下法律沉默或滞后于技术。清晰的伦理框架确保负责任的创新、公众对技术的信任与职业问责。
伦理在 IT 中重要的原因：技术塑造社会（影响沟通、金融、医疗、教育、交通乃至民主）；IT 专业人员掌握敏感信息（数据是"新石油"且高度个人化）；法律无法覆盖每种情形（合法但不道德，如未经同意用公开数据画像）；新兴技术带来全新两难（自治系统失败谁负责？AI 嵌入了哪些偏见？）。
2.4 法律 vs 伦理
| 方面 | 法律（Laws） | 伦理（Ethics） |
|---|---|---|
| 定义 | 政府或监管机构制定并强制执行的正式规则，界定何为合法/可罚 | 治理个人或行业行为的道德原则与价值，超越合规，追问何为对、公平、负责 |
| 目的 | 维护社会秩序与正义 | 指引良好、公平的职业行为 |
| 依据 | 法律权威强制执行 | 良知与职业价值驱动 |
| 灵活性 | 具体且固定（可能过时） | 动态、随情境适应 |
| 范围 | 行为的最低可接受标准 | 行为的理想/愿景标准 |
三、IT 中的六大核心伦理原则
伦理原则是帮助 IT 专业人员在复杂或模糊情境中做出负责任决策的道德指引，确保技术公平、安全、透明地服务于人类：
- 正直（Integrity）： 在所有专业往来中诚实、一贯、透明——不伪造数据/操纵分析、如实报告局限与风险、在压力下仍保持诚实。
- 保密与隐私（Confidentiality & Privacy）： 保护受托信息——保护凭据/财务/健康等敏感数据、遵循数据最小化、用后安全销毁或匿名化。
- 公平与不歧视（Fairness & Non-Discrimination）： 公平对待所有个人与群体——评估算法/数据集是否存在偏见、为所有用户（含残障人士）设计可访问系统、不偏袒特定用户。
- 问责与责任（Accountability & Responsibility）： 对自己的行动、决策与所开发技术的结果负责——主动承认错误并纠正、向利益相关者沟通风险、遵循漏洞披露/系统失败的正当程序。
- 透明与诚实（Transparency & Honesty）： 清晰公开地说明系统如何工作、收集什么数据、有何局限——避免隐藏的数据做法或欺骗性设计（dark patterns）、告知用户 AI 如何决策、记录假设与数据来源。
- 尊重知识产权（Respect for IP）： 承认并保护他人创意、软件、设计的所有权——不未经许可使用他人代码/数据/算法、正确引用开源或授权软件、尊重软件许可。
四、Ethical Issues in IT（IT 中的主要伦理议题）
| 议题 | 涉及的伦理原则 | 典型伦理问题 |
|---|---|---|
| 隐私与数据保护 | 公共利益优先、正直、公平、问责 | 用户是否真正理解其数据如何被使用？数据是否应"以防万一"无限期存储？数据泄露由谁负责（开发者/经理/公司）？ |
| 知识产权 | 诚实、胜任、专业精神 | 能否使用模仿某艺术家风格的 AI 生成内容？大学是否应允许学生用 ChatGPT 完成编程作业？ |
| 网络安全责任 | 公共利益、胜任、专业精神 | 利用发现的漏洞去"教训"公司是否道德？用户是否有权知道其系统不安全？ |
| AI 与自动化 | 公共利益、诚实、生活质量 | AI 的行为由谁负责（开发者还是算法）？AI 是否应做生死攸关的决策（如自动驾驶）？ |
| 职场伦理 | 专业精神、诚实、提升生活质量 | 被要求"为赶进度而省略测试"时如何回应？是否应举报上级的不当行为？ |
五、Professional Code of Ethics（职业伦理准则）
5.1 ACS 伦理准则——六大核心价值
澳大利亚计算机学会（ACS）是澳大利亚 ICT 行业的专业协会，其准则提供伦理行为框架、两难决策指引以及对客户/雇主/社会的问责基础。六大核心价值：
| 价值 | 含义 |
|---|---|
| 公共利益优先（Primacy of the Public Interest） | 把公众利益置于个人、商业或局部利益之上 |
| 提升生活质量（Enhancement of Quality of Life） | 努力改善受你工作影响者的生活质量 |
| 诚实（Honesty） | 如实陈述自己的技能、服务与产品 |
| 胜任（Competence） | 为利益相关者尽职、胜任地工作 |
| 专业发展（Professional Development） | 提升自己与他人的专业能力 |
| 专业精神（Professionalism） | 维护并增进行业的荣誉与正直 |
5.2 ACS 职业行为准则 & 与伦理准则的区别
ACS 职业行为准则（Code of Professional Conduct） 是对所有 ACS 成员（含学生、毕业生、专业人员）适用的、更详细且可执行的专业标准，要求保护公共利益、展示诚实公平正直、保持胜任与问责、尊重隐私/保密/知识产权、促进 ICT 职场的多元/公平/包容。
| 方面 | ACS 伦理准则（Code of Ethics） | ACS 职业行为准则（Code of Professional Conduct） |
|---|---|---|
| 性质 | 高层道德原则 | 详细的专业规则 |
| 目的 | 指引伦理思考与决策 | 指引可执行的专业行为 |
| 范围 | 愿景/理想 | 实用/可操作 |
| 执行 | 不严格强制 | 可强制；违反可受处分 |
| 焦点 | 道德、公共善、公平 | 问责、胜任、专业精神 |
5.3 个人伦理 vs 职业伦理
- 个人伦理（Personal Ethics）： 个人自身的道德价值与是非信念，由文化、宗教、成长与经历塑造。
- 职业伦理（Professional Ethics）： 某一职业被接受的行为标准，形式化为行为/伦理准则（如 ACS 准则）。
- 关系： 个人伦理影响职业伦理，但在工作中必须与职业标准对齐；当二者冲突时，专业人员须在个人信念与职业义务间权衡（例如个人认为"为创新可在用户数据上做实验"，但 ACS 准则要求知情同意与隐私保护——须以职业义务为准）。
六、Ethical Decision Making Models（伦理决策模型）
6.1 后果论 / 功利主义（Consequentialism / Utilitarianism）
依据行动的结果/后果判断其道德性，最著名形式是功利主义。特征： 结果导向（道德价值取决于结果而非意图或规则）、最大化整体善（以产生的总效用/幸福/利益衡量）、公正（平等考虑所有受影响方）。优点： 务实、灵活、结果导向（适合 IT 项目的风险-收益分析）。局限： 难以准确预测所有后果、可能"为达目的不择手段"、可能与个人/职业规则（如隐私法）冲突。
6.2 义务论 / 基于责任（Deontological / Duty-based）
关注行动本身的对错而非结果，强调遵守道德规则、责任或义务。特征： 规则导向（遵循普遍道德规则或职业责任）、意图重要（动机具伦理意义）、一致性（规则对所有人一致适用）。优点： 指引清晰、强调道德正直与问责、与职业准则及法律合规高度契合。局限： 可能僵化、责任冲突时难抉择（如保密 vs 公共安全）、对复杂技术两难灵活性不足。
6.3 美德伦理（Virtue Ethics）
聚焦个人的品格、美德与正直，而非规则（义务论）或结果（后果论），追问"我应成为怎样的专业人员"而非仅"我该做什么"。特征： 以品格为中心（培养诚实、勇气、正直、公平、同理等美德）、习惯性善行（伦理源于长期养成的好习惯）、实践智慧（用判断力在复杂情境中平衡各种美德）。优点： 鼓励整体的道德成长、灵活考虑情境与细微差别、补充规则与结果——营造伦理文化而非仅合规。局限： 不够具体（不给明确指令）、可能主观（"美德"因文化/职场而异）、需自我反思与道德判断，可能不一致。
七、Ethics in Emerging Technologies（新兴技术伦理）
AI、大数据、IoT、云计算与深度伪造正在重塑社会，也带来新的伦理挑战，ICT 专业人员须平衡创新与责任：
- 人工智能（AI）： 算法偏见（可能强化社会不平等）、透明度（"黑箱"模型难以解释）、问责（AI 造成伤害谁负责）、隐私（常需含个人信息的大数据集）。
- 大数据（Big Data）： 数据隐私（海量数据的收集/存储/共享）、同意（用户未必理解其数据用途）、滥用（预测分析可能在招聘或保险中导致歧视）。
- 物联网（IoT）： 安全漏洞（设备被黑、暴露个人数据）、监控（持续监测侵犯隐私）、数据所有权（谁控制智能设备收集的数据）。
- 云计算（Cloud）： 数据主权（跨国存储可能违反当地法律）、访问控制（共享资源可能被恶意利用）、供应商责任（云服务商须守伦理与法律标准）。
- 深度伪造与合成媒体（Deepfakes）： 虚假信息（用于欺骗或操纵舆论）、同意（未经许可使用他人形象不道德）、信任侵蚀（泛滥会削弱对数字内容的信任）。
平衡创新与责任的指引问题： 谁受益、谁可能受害？是否存在公平、隐私或同意问题？是否符合职业准则与法律？长期社会后果是否可接受？
八、End of Lecture Questions（课后复习问题与参考答案）
定义伦理，并解释个人伦理与职业伦理的区别。 伦理是关于是非善恶及人应如何行为的道德标准。个人伦理是个人自身的道德信念（由文化/宗教/成长塑造）；职业伦理是某职业被接受、并形式化为准则（如 ACS 准则）的行为标准；工作中个人伦理须服从职业标准。
列举并简述 ACS 职业行为准则的六大核心价值。 公共利益优先、提升生活质量、诚实、胜任、专业发展、专业精神。
指出 IT 中的五大伦理议题并各举一个真实例子。 隐私与数据保护（数据泄露责任）、知识产权（AI 生成内容/ChatGPT 作业）、网络安全责任（漏洞披露伦理）、AI 与自动化（自动驾驶生死决策）、职场伦理（为赶进度省测试）。
举例说明知识产权与职场要求可能冲突的情境。 例如雇主要求复用未经授权的第三方代码或开源库以赶工期，这与尊重知识产权、正确引用许可的职业义务冲突——应拒绝并寻求合规替代。
比较后果论、义务论与美德伦理。 后果论看结果（最大化整体善，灵活但可能"不择手段"）；义务论看规则与意图（清晰、合规，但可能僵化）；美德伦理看品格（培养诚实正直等美德，灵活但不够具体）。
个人伦理何时会与职业伦理冲突？专业人员应如何化解？ 当个人信念与职业准则要求不一致时（如个人觉得可随意用用户数据做实验，但准则要求知情同意）。化解之道：工作中以职业义务与准则为准，必要时寻求伦理指引、上报或拒绝违规要求。
九、Case Study：AI 招聘平台的性别偏见
9.1 背景
你是一家中型澳大利亚科技公司的软件工程师，正在开发一个 AI 招聘平台：系统筛选简历并按预测的工作表现对候选人排序。测试中你发现，尽管输入数据本意是性别中立的，算法却系统性地偏向男性候选人。管理层因多家大客户在等待而坚持立即上线。你面临多重考量：公共利益（带偏见的系统会伤害求职者、损害公众信任）、公司压力（延期影响客户关系与收入）、职业标准（ACS 准则要求公平、诚实、维护公共利益）、法律合规（澳大利亚法律禁止招聘歧视）。
9.2 案例讨论问题
- 本情境中的主要伦理议题是什么？
- 哪些 ACS 准则原则与本情境最相关？
- 用功利主义分析你应怎么做（权衡正负后果）？
- 用义务论分析，伦理上要求采取什么行动？
- 用美德伦理分析，你的个人与职业品格应如何指引决策？
- 提出在平衡伦理、法律与业务的前提下，逐步解决 AI 偏见的方案。
- 本案例如何体现 IT 中职业问责的重要性？
参考思路： ①主要伦理议题是算法偏见/公平与不歧视、透明度与问责，以及"先上线后修复"的风险；②最相关的 ACS 原则是公共利益优先、诚实、胜任与专业精神；③功利主义——上线虽满足客户短期利益，但偏见系统对大量求职者与公众信任的长期伤害更大，应延期修复；④义务论——公平与不歧视是不可违背的义务（且歧视违法），无论结果都必须先纠正偏见；⑤美德伦理——以正直、勇气与公平为品格，敢于向管理层直言并坚持负责任的做法；⑥逐步方案：暂缓上线→审计数据与特征找出偏见来源→重训练/去偏并加入公平性指标与人类复核→向管理层与客户透明沟通→上线后持续监控与审计；⑦它说明 IT 专业人员须对其构建系统的社会后果负责，问责不能因商业压力而让步。
十、考试速查表（Quick Reference）
伦理四要素
价值（Values）→ 原则（Principles）→ 行为（Behavior）→ 后果（Consequences）。
法律 vs 伦理
法律=最低强制标准、固定；伦理=理想/愿景标准、动态，填补"合法但不道德"的空白。
IT 六大核心原则
正直、保密与隐私、公平与不歧视、问责与责任、透明与诚实、尊重知识产权。
ACS 伦理准则六大价值
公共利益优先、提升生活质量、诚实、胜任、专业发展、专业精神。
伦理准则 vs 职业行为准则
伦理准则=高层道德原则、愿景、不强制；职业行为准则=详细规则、可操作、可强制（违反受罚）。
三大决策模型
- 后果论/功利主义： 看结果，最大化整体善（务实但可能"不择手段"）。
- 义务论： 看规则与意图，遵守责任（清晰合规但可能僵化）。
- 美德伦理： 看品格，培养美德（"我该成为怎样的人"，灵活但不够具体）。
新兴技术伦理
AI（偏见/黑箱/问责）、大数据（隐私/同意/滥用）、IoT（漏洞/监控/数据所有权）、云（数据主权/访问/供应商责任）、深度伪造（虚假信息/同意/信任侵蚀）。