Discuz! Board

標題: 针对女性的内容审核：LGPD 如何成为盟友 [打印本頁]

作者: mimmita1 時間: 2023-12-26 17:15
標題: 针对女性的内容审核：LGPD 如何成为盟友

在社交媒体上听到内容审核很常见。问题是：它是如何运作的？为了禁止含有非法或“不当”内容的帖子，社交媒体通过以下方式进行内容审核：由大型科技公司（例如谷歌和微软）开发的人工智能（AI）工具，分析发布的帖子在平台上识别暴力或色情图像以及仇恨或歧视性言论，然后向平台发送警报，使他们能够对此类内容的可用性和传播进行控制[1 ]。

尽管可以知道构建算法时使用的部分标准和参数来帮助平台识别这些内容，但人工智能一旦开发出来，它就开始像黑匣子一样发挥作用 [2] ，从而在实践中造成理解障碍—— 为什么得出禁止某些内容的结论。
毫无疑问，人工智能使用的参数和标准不能脱离它被创造和插入的社会的概念和偏见 [3]，这是关于使用此类人工智能的讨论的要点之一。工具。在不同的偏见中，已经发现自动化决策存在性别偏见：经过多次测试，《卫报》的记者得出结论，社交媒体平台会对图像进行分类，并限制他们认为更具性别偏见的内容的范围，尤其是当有女性照片时 [4]。

在其中一项测试中，穿着长裤、裸露胸部的摄影师获得了 22% 的“辣”分。当你戴上胸罩时，你的分数会上升到 99%。南加州大学教授、人工智能地图集作者 Kate Crawford 表示，这是脱离语境信息的结果，文胸被分析为“不合适”，而不是日常服装。

此外，研究表明在其他场景中也可以验证算法 电报号码数据 的性别偏见。一些例子是：1）在美国国家癌症研究所发布的如何进行临床乳房检查的图像中，谷歌的人工智能认为82%“不合适”，亚马逊将其归类为“露骨裸体”；2）对于孕妇肚皮照片，谷歌将其归类为“很可能含有辛辣内容”。

微软的算法有 90% 的信心认为该图像“本质上具有性暗示”；3）在两张描绘男性和女性穿着内衣的照片中，微软工具将女性形象归类为“有伤风化”，并给出了96%的分数。另一方面，与男性合影则被归类为“不辣”，得分为14%；4) 直到 2014 年，母乳喂养照片可能会被 Facebook 视为“色情”。使用政策的变化伴随着使用标签TheNipple 的一波示威浪潮。

在缺乏具体监管的情况下，LGPD 可以成为盟友，尽管互联网民事框架[5]
中规定了与内容审核相关的平台责任，并且批准了人工智能法律框架（第 1 号法律项目）），尽管提供了一些有关其使用的指南，但巴西没有立法规范该主题，也没有制定通过社交媒体开展此活动时必须特别遵守的基本原则，这是平台本身的责任通过其政策和使用第三方提供的人工智能工具来建立这些参数。

在此背景下，特别考虑到 1) 保护个人数据是一项基本权利（第 5 条，LXXIX，CF）；2）在与内容审核相关的活动中，平台使用日益先进的计算技术通过“大数据” [6] 大规模处理数据——这可能涉及简单的个人数据和敏感数据、来自世界各地的儿童和妇女的数据，以及种族——《一般数据保护法》（联邦法第或 LGPD）的规定可以成为在内容审核场景中打击对妇女歧视的盟友 [7]。

法律规定平台对个人数据的处理必须遵守透明和非歧视的原则（LGPD第六条和第九项），并保障女性用户行使审查自动决策的权利。例如，作为禁令的一部分。

平台必须保证用户能够访问在内容审核范围内进行的个人数据处理活动的相关信息。这些信息必须以清晰、易于访问的方式在平台上提供，用户获取和理解它时没有障碍。

歡迎光臨 Discuz! Board (http://btfro.win1.in/)