第9课：《AI也会“犯错”？》

【学习目标】

1. 了解AI在知识不完善、隐私泄露和故障方面的风险

2. 理解AI产生错误的原因和局限性

3. 学会辩证地看待人工智能的能力

【情境导入】

小丽问智能音箱：“中国最长的河流是什么？”音箱回答：“长江。”小丽又问：“那我们小区门口的超市今天几点关门？”音箱却回答不出来了。小丽很失望：“AI不是什么都知道吗？”其实，AI也会犯错，也有做不到的事情！它有时候会“胡说八道”，有时候会“泄露秘密”，有时候还会“罢工”。让我们一起来认识AI的“另一面”吧！

【知识大揭秘】

AI虽然很厉害，但它并不是万能的。它有三种常见的“犯错”方式：

第一种：回答错误的智能伙伴。AI的知识来自它学习过的数据，如果数据不够全面或者有错误，AI就会给出错误的答案。比如，如果你问AI一个很新很新的新闻事件，它可能不知道，因为它的训练数据里还没有这些信息。更危险的是，有时候AI会“一本正经地胡说八道”——它给出的答案看起来很合理，但其实是错的！这种现象叫“AI幻觉”。所以，AI给的答案不能盲目相信，一定要自己核实。

第二种：藏不住秘密的智能伙伴。当你和AI聊天时，你输入的信息可能会被记录和存储。如果你告诉AI你的姓名、地址、密码等隐私信息，这些数据有可能被泄露出去。比如，有些智能音箱会一直监听周围的声音，虽然它说只是在等“唤醒词”，但谁知道它会不会不小心录下你的私密对话呢？所以，和AI交流时要注意保护隐私！

第三种：会“罢工”的智能伙伴。AI系统也会出故障。如果数据丢失、网络中断、服务器崩溃，AI就会停止工作。比如，如果导航软件连不上网络，它就没法获取实时路况数据，自然也就没法帮你导航了。还有些AI系统可能会出现“自主行为风险”——做出程序员没有预想到的行为，这可能会带来危险。

【生活案例】AI翻译闹笑话
小刚用AI翻译工具把“我明天要去银行”翻译成英文，结果AI翻译成了“I am going to the river bank tomorrow”（我明天要去河岸）。原来，英语里的“bank”既有“银行”的意思，也有“河岸”的意思，AI没有根据上下文做出正确选择，闹了个大笑话！这就是AI因为数据理解不够深入而犯的错。

所以，我们要辩证地看待AI：它很强大，但不是万能的；它很聪明，但也会犯错。使用AI时，既不要盲目相信，也不要完全否定，要学会独立思考和判断！

【AI看图学】

【动手玩一玩】

任务：测试AI的“犯错”时刻

步骤：

1. 打开一个AI聊天工具

2. 问它3个你确定知道答案的问题（如“中国的首都是哪里”），看看它答对没有

3. 再问它3个容易混淆的问题（如“把‘我要去买手表’翻译成英语”），看看它会不会出错

4. 最后问它1个你们学校特有的问题（如“XX小学的校长是谁”），看看它能不能回答

预期结果：AI通常能回答常识性问题，但在容易混淆的问题上可能出错，对于小范围的地方性问题很可能答不上来。

【思考与延伸】