第13课：深度伪造与信息茧房——当AI成为“谎言工厂”

【学习目标】

1. 理解深度伪造技术的原理及其社会危害

2. 能够分析信息茧房的形成机制及其与算法推荐的关系

3. 评价算法偏见对社会公平的影响

4. 创造性地提出防范深度伪造和破除信息茧房的策略

【情境导入】

小明在社交媒体上看到一条“某名人发表争议言论”的视频，转发后才发现这是AI生成的深度伪造视频。与此同时，他发现自己的短视频推荐总是同一类型的内容，他的世界被算法“围墙”了。这两个现象——深度伪造和信息茧房——是当代AI技术带来的两大社会挑战。

【知识大揭秘】

概念引入：深度伪造与信息茧房

深度伪造是利用AI技术生成以假乱真的音视频内容，包括换脸视频、语音克隆等。信息茧房是指用户在算法推荐下只接触与自己观点一致的信息，封闭在“茧房”中无法看到更广阔的世界。

深度解析：深度伪造的技术原理与社会危害

深度伪造主要基于GAN和扩散模型等技术，能生成以假乱真的换脸视频和语音克隆。其社会危害包括：伪造名人言论、制作虚假新闻、诈骗亲友财物等。防范手段包括：数字水印技术、AI检测工具、媒体素养教育等。

案例时间：短视频算法如何“围墙”你的世界

当你在短视频平台上观看某类内容后，算法会持续推荐相似内容，让你越看越“上瘾”。这种“信息茧房”效应让你只看到算法想让你看到的内容，逐渐失去对不同观点的接触。破解方法包括：主动搜索不同观点、关注多元信息源、培养批判性思维。

案例时间：招聘算法中的性别偏见

某科技公司的AI招聘系统，由于训练数据主要来自男性的简历，导致系统对女性求职者的评分系统性偏低。这个案例说明：算法偏见不是抽象概念，它会实实在在地影响人们的机会和权益。

知识小结：AI社会问题的三个关键认知

第一，深度伪造技术可以生成以假乱真的内容，必须提高警惕；第二，信息茧房让人陷入片面认知，需要主动突破；第三，算法偏见会导致不公平，必须从数据和算法两个层面解决。

【AI看图学】

【动手练一练】

活动：深度伪造识别挑战

步骤： 1. 在网上找到几张AI生成的图片和真实图片，混合排列 2. 小组成员分别判断哪些是AI生成的，哪些是真实的 3. 讨论：你是根据什么线索判断的？哪些线索可能不可靠？ 4. 总结防范深度伪造的实用策略

工具/平台：工具/平台：浏览器搜索AI生成图片、ThisPersonDoesNotExist等网站

预期成果：预期成果：深度伪造识别记录表及防范策略总结

【想一想·辨一辨】

1. 如果你的所有信息来源都被算法筛选过，你还能做出独立的判断吗？你会采取什么方法突破信息茧房？

2. 有人说“算法偏见是技术问题，应该由技术人员解决”，你同意吗？为什么？

【拓展阅读·前沿视窗】

了解数字水印技术和AI内容检测工具的发展。数字取证专家是新兴职业，他们负责识别和验证数字内容的真实性。推荐观看纪录片《深度伪造的威胁》。