人工智能在美国参与书籍审查 部分学区下架阿特伍德等人作品

2023-08-18 15:25:55 来源:新京报

据美国《滚石》杂志等媒体报道,近日,美国爱荷华州一学区图书馆已经开始使用人工智能辅助内容审查,包括《追风筝的人》《使女的故事》在内的19部作品遭遇下架,人工智能判定这些书包含对性行为的“描述”。


【资料图】

“图书下架运动”(Book Ban)在美国社会呈现扩大化趋势。8月11日,美国爱荷华州梅森学区称使用“人工智能软件”对馆藏图书进行文本分析,并据此结果下架了19本图书。此举意味着人工智能开始参与内容审查。

据爱荷华州报纸《公报》称,这一举措是为响应爱荷华州最新颁布的一项法案,要求学校向学生提供的每本书都须“适合年龄”,并且不含任何“性行为的描述或视觉描绘”。最初的消息仅证实校方在决策时使用了人工智能软件,但并不清楚具体使用了什么工具,以及实际如何操作。不久后,美国《大众科学》报道称校方使用的是ChatGPT。

“坦率地说,我们有更重要的事情要做,而不是把大量时间花在如何保护孩子们免受什么书籍侵害。” 梅森学区课程和教学助理总监布里奇特·埃克斯曼 (Bridgette Exman)在接受媒体采访时直言,“于是我们使用ChatGPT来辅助。”埃克斯曼解释说,尽管“适合年龄”这一规定很主观,但“对性行为的描述”是相对客观的。

据埃克斯曼称,她和校方管理员首先制定了一份常见的争议书籍名单,并进一步人工筛选剔除了因色情内容以外的原因受到质疑的书籍,最终确定一份包含约50本书的清单。之后,按照法案的原文输入,询问ChatGPT“(书)包含对性行为的描述吗”。如果获得肯定答案,这些书将立即下架。

这轮公布的遭下架书籍包括玛格丽特·阿特伍德的《使女的故事》、托妮·莫里森的《宠儿》、约翰·格林的《寻找阿拉斯加》、卡勒德·胡赛尼的《追风筝的人》、玛雅·安吉洛的《我知道笼中鸟为何歌唱》等19部作品。

这一审查过程也在美国社会引发争议。由Open AI开发的ChatGPT可以说是目前公众可以使用的最知名、最流行但也最有争议的生成式人工智能程序。它利用大量数据,大语言模型 为用户提供了令人信服的书面响应,但通常会附带有关错误信息、并提供有关内容准确性和内容来源的提示。然而近几个月来,研究人员推测其一致性和质量似乎随着时间的推移而有所下降。

《大众科学》进行了同样的审查测试。当询问ChatGPT“以下书籍中是否包含露骨描写或性场景时”,《大众科学》得到了不同的反馈结果。ChatGPT称,在19部遭下架的作品中,只有4部包含“露骨描写或性内容”,另外6部则“主题成熟,但不确定露骨的内容”,其余9部则“很少甚至没有露骨的内容”。

在几轮不同测试后,ChatGPT经常给出前后不一致的回复。比如,其对《追风筝的人》的审查结果是自相矛盾的。其中有时ChatGPT认定这本小说包含“少量或不明确的性内容”,但又在后续反馈中称“确实包含涉及性的内容”。

对此,埃克斯曼称即便ChatGPT存在缺陷,但他们认为这一工具仍然是符合新立法规定且最便捷的选择。距离新学年开学将近,这一法案签署时间是2023年5月26日,留给州内学校执行的时间仅为三个月。

“我们的教室和学校图书馆拥有大量藏书,包括购买、捐赠和发现的文本。阅读每本书并过滤这些根本不可行,”埃克斯曼在一份声明中说。“因此,我们正在使用我们认为合理的流程来确定应在2023至2024学年开始时从馆藏中删除的书籍。此后,我们将继续依靠我们长期建立的流程,允许家长重新考虑书籍。我们相信这一过程将确保法律精神在梅森得到落实,且家长在学生的教育中永远有发言权。”

关键词:
分享:
x 广告
x 广告

Copyright   2015-2022 魔方网版权所有  备案号:京ICP备2022018928号-48   联系邮箱:315 54 11 85 @ qq.com