如今，AI 技术正在被广泛地用于我们生活中的方方面面，但是有科学家提醒大家，目前还是先不要把你的健康托付给一些 APP，因为它们很有可能会犯错，甚至有可能要了人的命。

来看看 AI 造成的一些风险。｜giphy

2015 年，美国俄勒冈州的一家人被紧急送往医院，原因是蘑菇中毒。而他们之所以会吃下毒蘑菇，是因为手机上 APP 告诉他们：这些蘑菇可以食用。

2023 年，这样的事情再度发生。William D. 一家经常吃蘑菇，识别蘑菇几乎是代代相传的事，不过 William D. 觉得，自己这一代的优势就是使用智能手机。因此他拍摄了自己后院里的蘑菇照片，上传到手机上的“蘑菇识别器”，手机告诉他这是一种可食用的品种。但吃完之后他中毒了。

当地的医疗人员说，这种蘑菇的毒素很强，1 个蘑菇就足以杀死 4 个人，而 William D. 吃了 4 个，万幸的是他及时被送进了医院。

William D. 吃的蘑菇其实是毒鹅膏菌的一种，毒性很强。｜参考资料2

一位公共事务研究员 Rick Claypool 同样用了 AI 识别毒蘑菇的软件，虽然他没有像前面的事例一样经历严重的中毒事件，但当他意识到，如今的 AI 识别有多容易犯错后，他便决定写下一份报告，用来提醒大家不要轻易相信用AI识别的蘑菇种类。

如今有许多用 AI 识别蘑菇的软件｜picturemushroom

在报告中他提到，如今社交媒体的平台其实能够让更多人了解蘑菇和中毒的问题，专家和经验丰富的人也会在平台上提供各种高质量的信息和资源。

AI 技术虽然能在这个过程中帮上大忙，但是盲目地信任它们，也是一件有风险的事情。

一位真菌学专家 Rick Van de Poll 就曾表示，即便是专家，也很难仅凭视觉来区分蘑菇到底能不能吃，分辨它们不仅需要颜色、形状，有时还要凭借嗅觉，甚至用上显微镜。

报告中提到的一些蘑菇识别应用程序。｜参考资料4

2022 年，澳大利亚的一群研究人员就分析了 3 个声称可以用 AI 来识别野生蘑菇的 APP，也就是让 AI 单纯通过一张照片来判断蘑菇的毒性。结果他们发现，这些 APP 对毒蘑菇的准确识别率只有约 50%。表现最好的正确识别率为 67%。

其中，APP 有概率认不出毒性极强的毒鹅膏菌，甚至还错误识别了一两次。一位美国的医生就提到，近几年，虽然有一些食用了毒鹅膏的人幸存了下来，但他们不得不接受肝脏移植，甚至还出现了永久的神经系统问题。因此，“严重中毒和可能会死亡的代价是非常真实的。”

虽然这张图看起来没什么问题，但其实是由 DALL-E 3 生成，上面的单词都是无意义的。｜参考资料4

上述的报告便提到，虽然 AI 技术十分有用，但是如果要营销一个 APP 的功能，夸大优势，淡化风险，便可能涉及到严重的危害。因此，报告就建议，提供 APP 的企业，首先要让用户知道 AI 技术用在何处，其次还要提醒用户，AI 有可能会犯错误，并承担相关犯错后的责任。

而 AI 之所以可能会犯错误，不仅是因为单纯用数码照片识别不准确，还有可能是网上的假信息过多了。

404media 的一则报告发现，亚马逊上似乎出现了一些 AI 生成的书籍，教人们“如何烹饪毒蘑菇”，而这些书其实是胡写的。

更危险的是，这些“毒蘑菇食用指南”甚至都没有提示读者这本书是由 AI 编写的，署名好像是一个虚构的作者，据说这名“假专家”一家出版了 19 本书……

这些书可能是由 AI 生成的，但封面上看不出任何提示。｜参考资料5

还有些 AI 则会通过 AI 作画的方式来展现一个蘑菇，也有可能会展示出错误的细节。让用户获得假信息。

AI（左边）说牛肝菌长这样，但它的描绘其实并不准确。右边是牛肝菌的实拍图。｜参考资料4

2023 年，Gizmodo 的记者还发现，谷歌的 AI 在用搜索引擎的时候给出了荒谬的答案。当搜索“如何烹饪毒鹅膏”的时候，搜索引擎给出了答案：你可以用水过滤出毒素……

而这个答案实际上是错误的。对此，当时的谷歌便提到要采用更高的预防措施来对待这些涉及到健康的敏感话题，并限制一些 AI 的使用。

AI 提供的搜索引擎内容是假的，专家提示这样吃毒鹅膏会致命。｜参考资料7

总而言之，善用 AI 技术，可能需要更好地了解和规范它，不要忽略它可能带来的风险。

事实上，目前没有一个简单易行、快速有效、可百分百准确识别野生毒蘑菇的方法。人们对自我辨识能力的乐观偏差是导致悲剧发生的重要原因。

参考文献

[1]https://www.oregonlive.com/pacific-northwest-news/2015/05/4_people_fall_ill_after_trusti.html

[2]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[3]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[4]https://www.citizen.org/article/mushroom-risk-ai-app-misinformation/?utm_source=VentureBeat&utm_campaign=cef30891a2-EMAIL_CAMPAIGN_2024_03_19_01_11_COPY_01&utm_medium=email&utm_term=0_-dff594d55a-%5BLIST_EMAIL_ID%5D&mc_cid=cef30891a2&mc_eid=6385387dc8

[5]https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/

[6]https://www.tumblr.com/rebeccathenaturalist/726294696941518848/hey-there-fellow-naturalist-albeit-less?ref=404media.co

[7]https://gizmodo.com/google-search-ai-answers-slavery-benefits-1850758631

[8]https://www.tandfonline.com/doi/full/10.1080/15563650.2022.2162917

策划制作

来源丨把科学带回家（ID：steamforkids）

作者丨Skin

责编丨何通

校对丨徐来、林林