AP CSA 4.1：数据收集中的伦理与社会问题

October 04, 2026

手机和电脑会收集大量与我们有关的数据，例如位置、购买记录、游戏记录，甚至照片中的位置信息。这些数据可以让软件提供有用的服务，但也可能带来隐私、安全和公平性问题。

本课主要讨论两个问题：我们应该如何保护个人数据？我们又该如何判断一个数据集是否可靠、公平，并且适合当前任务？

数据收集不仅带来便利，也带来责任；有偏差或不合适的数据，可能让程序产生错误或不公平的结果。

核心知识点

1. 第一个 AP 核心考法：收集个人数据时，程序员有什么责任？

想象一个地图 App：为了提供导航，它需要知道用户的位置，也可能保存用户的位置记录。

下面哪一项最符合程序员应该承担的责任？

A. 只要定位功能对用户有帮助，就可以默认收集并保存位置。

B. 在访问和保存个人数据前征求用户许可，并采取措施保护这些数据；如果发生数据泄露，应通知受影响的用户。

C. 位置只是一些坐标，不属于需要保护的个人信息。

答案：B

个人数据可能帮助软件提供服务，但收集和保存这些数据也会带来隐私风险。程序员在法律和伦理层面都应征求用户许可，并尽力保护用户隐私。发生数据泄露时，还应通知受到影响的用户。

2. Data Privacy：个人数据与隐私

数据隐私（Data Privacy）关注个人数据如何被收集、保存和使用，以及这些数据是否得到了适当保护。

手机和电脑可能收集很多个人信息：

数据类型	例子
位置信息	使用地图导航时记录的位置
购买记录	用户买过什么
使用记录	用户玩过哪些游戏
照片 metadata	照片中可能保存的拍摄地点

照片也可能泄露位置

照片除了画面本身，还可能包含 metadata（元数据）。

例如，照片的 metadata 可能记录拍摄地点。如果用户没有关闭相关设置，分享照片时就可能无意中分享位置信息。

因此，个人数据不一定是用户主动输入的文字；设备和软件也可能在使用过程中收集或保存相关信息。

程序员应该怎么做？

当程序需要访问或保存个人数据时，程序员应该：

征求用户许可：在访问和保存数据前，依法且合乎伦理地取得用户许可。
保护用户隐私：意识到收集和存储个人数据所带来的风险，并采取措施保护数据。
通知数据泄露事件：如果数据被盗，应通知受到影响的用户。

注意：征求许可并不意味着之后就可以忽视数据安全。保护隐私仍然是程序员需要承担的责任。

3. Personal Security：数据收集也会影响个人安全

数据隐私和个人安全密切相关，但关注的角度不完全相同。

教材用位置追踪说明：同一项技术可能既有好处，也有风险。

情况	可能的影响
地图 App 记录位置，帮助用户导航	有用、方便
用户迷路时，位置信息帮助别人找到他	可能保护个人安全
未经授权的人获取用户的位置	可能造成隐私泄露和安全风险

因此，不能简单地说位置追踪一定是好事或坏事。

真正需要考虑的是：

收集这些数据有什么用途？
用户是否知道并同意？
数据是否得到了保护？
如果未经授权的人获得这些信息，会造成什么后果？

AP 核心理解： 计算机和软件的使用可能对个人安全和数据隐私产生积极或消极的影响。

4. Data and Bias：什么是算法偏见？

AI（人工智能）和 ML（机器学习）需要使用大量数据来训练算法。

但是，数据并不一定客观、公平。互联网上的数据可能反映现实社会中已经存在的偏见。如果 AI 使用这些数据进行训练，就可能学到并延续这些偏见。

Algorithmic Bias（算法偏见）

算法偏见是指程序中系统性、反复出现的错误，导致某个特定用户群体遭遇不公平的结果。

这里有三个关键词：

系统性：不是偶然发生的一次错误，而是反复出现的问题。
特定群体：某些用户群体受到的影响更大。
不公平结果：程序对不同群体产生不公平的判断或结果。

教材中的两个典型例子

例子一：自动招聘系统

2014 年，一家大型科技公司开发了自动筛选简历的工具，并使用公司现有员工的简历训练系统。由于训练数据存在偏差，系统最终产生了对女性不利的筛选结果。

问题在哪里？

如果历史员工数据本身不能公平代表所有求职者，算法就可能把过去存在的偏差带入新的招聘决定。

例子二：人脸识别系统

一些人脸识别软件对肤色较深的人群出现了更高的错误率。

一个重要原因是：训练数据中这类人群的样本数量不足。

结果就是，系统对不同群体的识别准确度不一样，可能造成不公平甚至歧视性的结果。

偏见可能从哪里来？

偏见不一定是程序员故意写进程序的。它也可能来自训练数据本身。

例如：

现实世界或互联网中存在偏见
              ↓
收集到的数据反映了这些偏见
              ↓
AI 使用这些数据进行训练
              ↓
AI 学到并延续数据中的偏见
              ↓
某些群体反复遭遇不公平结果

所以，算法的结果是否公平，不仅取决于程序本身，也取决于它使用的数据。

5. Data Set Quality：数据集为什么不一定可靠？

数据集（data set / dataset）是数据的集合。

在使用数据集训练 AI、开发程序或得出结论之前，程序员需要先了解数据是如何收集的，以及它是否适合当前任务。

教材特别强调三类问题：

数据集问题	可能造成的后果
收集方法存在偏见	得出的结论可能带有偏见
数据不完整（incomplete）	程序可能运行错误或效率低下
数据不准确（inaccurate）	程序可能运行错误或效率低下

数据集适合一个问题，不代表适合另一个问题

这是本课另一个容易忽略的考点。

假设一个数据集是为了研究某个特定问题而收集的。

它可能很适合回答原来的问题，但不一定适合用来回答另一个问题，或者据此推断其他情况。

例如：

一个只包含部分人群面部照片的数据集，可能无法可靠地支持针对不同人群的全面人脸识别。

所以，在使用数据集之前，不能只看它有没有数据，还要问：

数据是怎样收集的？
数据是否存在偏见？
数据是否完整、准确？
这些数据是否真的适合当前要回答的问题？

核心原则：数据集的适用性取决于具体问题，不能随意把一个问题中的数据结论推广到另一个问题。

6. How to Reduce Bias：如何减少数据偏见？

Runestone 提出了几种减少 AI 和机器学习偏见的方法。

方法	具体做法
使用多样且有代表性的数据	让训练数据能够更好地代表不同群体
定期测试	检查算法是否存在偏见，以及结果是否准确
公开软件局限性	说明软件可能存在的限制和潜在偏见
多元化开发团队	让不同背景的成员参与开发和测试
制定伦理准则	建立并遵守 AI 和机器学习的伦理标准

这些方法的共同目标是：尽量减少数据和算法中的偏见，避免程序对特定群体产生不公平的结果。

另外，教材也提醒我们，AI 和机器学习不仅需要大量数据，也会消耗大量能源。因此，数据收集与 AI 的发展还涉及资源使用方面的社会和伦理问题。

7. AP Exam Focus：本课五个核心考点

AP 知识点	必须理解的内容
AP 4.1.A.1	使用计算机时，个人隐私可能面临风险；程序员应尽力保护用户隐私。
AP 4.1.B.1	算法偏见是程序中系统性、反复出现的错误，使特定用户群体遭遇不公平结果。
AP 4.1.B.2	使用数据集之前，要了解数据收集方法，并考虑该方法可能带来的偏见。
AP 4.1.B.3	数据不完整或不准确，可能导致程序运行错误或效率低下。
AP 4.1.C.1	一个数据集可能只适合某个特定问题，不一定适合回答其他问题或进行进一步推断。

8. Common Mistakes：常见理解错误

常见错误	正确理解
认为只要用户同意收集数据，程序员就不再有保护责任	征求许可之后，仍然需要保护用户隐私
认为数据收集一定是有害的	数据收集可以带来便利，也可能产生隐私和安全风险
认为算法偏见只是偶然出现的一次错误	算法偏见强调系统性、反复出现的不公平结果
认为 AI 的偏见完全来自程序员编写的代码	偏见也可能来自训练数据和数据收集方法
认为数据量大就一定适合当前任务	还需要检查数据的收集方法、质量和适用范围
认为数据不完整只会影响 AI 训练	不完整或不准确的数据也可能使程序运行错误或效率低下
认为一个数据集可以回答任何相关问题	数据集可能只适合原本针对的特定问题

9. Mini Practice：小练习

Practice 1：Data Privacy

一个地图 App 在用户使用导航时记录其位置。下列哪项最符合程序员的责任？

A. 只要 App 提供了有用的功能，就不需要征求许可。

B. 在访问和保存位置数据前征求用户许可，并保护这些数据。

C. 位置数据只是数字，不需要保护。

答案：B

解释：位置属于可能涉及个人隐私的数据。程序员应征求用户许可，并尽力保护用户数据。

Practice 2：Algorithmic Bias

某人脸识别系统对肤色较深的人群错误率更高。调查发现，训练数据中这类人群的样本明显不足。

这最可能说明什么？

A. 算法偏见可能来自训练数据缺乏代表性。

B. 只要算法运行成功，就不存在偏见。

C. 人脸识别系统不需要训练数据。

答案：A

解释：训练数据没有充分代表不同群体，可能导致系统对某些群体的识别准确度较低，进而产生不公平结果。

Practice 3：Data Quality

一个数据集包含大量缺失和错误记录。使用它开发程序，可能出现什么问题？

A. 程序一定运行得更快。

B. 程序可能运行错误或效率低下。

C. 数据不完整不会影响程序。

答案：B

解释：不完整或不准确的数据可能影响程序的正确性和效率。

Practice 4：Dataset Suitability

研究人员使用一个专门为研究某种动物迁徙而收集的数据集，直接得出关于人类出行习惯的结论。

最大的问题是什么？

A. 数据集一定太小。

B. 数据集原本针对的问题与现在要回答的问题不同，可能不适用。

C. 所有数据集都只能用于一次分析。

答案：B

解释：数据集的内容可能只适合某个特定问题，不能随意用来回答另一个问题或进行不合理的推断。

Practice 5：Reducing Bias

下列哪一组做法有助于减少机器学习中的偏见？

A. 使用多样且有代表性的数据，定期测试算法，并说明软件的局限性。

B. 只使用数量最多的数据，不检查数据的来源。

C. 只要程序能够运行，就不需要测试公平性。

答案：A

解释：使用有代表性的数据、定期测试偏见与准确性、透明说明软件局限性，都是教材提出的减少偏见的方法。

Unit 4.1 核心词汇（Vocabulary）

Vocabulary	中文理解	核心理解
data privacy	数据隐私	个人数据的收集、保存、使用与保护
personal security	个人安全	计算机和软件使用可能带来的个人安全影响
personal data	个人数据	与个人有关的数据，例如位置和购买记录
metadata	元数据	描述其他数据的信息；照片 metadata 可能包含拍摄地点
data breach	数据泄露	数据被未经授权的人获取或盗取
data set / dataset	数据集	一组被收集起来的数据
data collection method	数据收集方法	数据是通过什么方式收集的
algorithmic bias	算法偏见	程序中系统性、反复出现的错误，对特定群体造成不公平结果
representative data	有代表性的数据	能够较好代表目标群体的数据
incomplete data	不完整的数据	缺少部分必要信息的数据
inaccurate data	不准确的数据	内容存在错误的数据
extrapolate	推断、外推	根据已有数据推断新的信息或结论
mitigate bias	减少偏见	采取措施降低数据或算法中的偏见