近日，Instagram对外公布了其内部“公平团队”的工作进展。该团队成立于去年美国“黑人的命也是命”抗议活动之后，旨在解决Instagram内部流程和外部平台中可能存在的系统性偏见问题。
在乔治·弗洛伊德事件后，Instagram负责人亚当·莫塞里承诺，将采取更多措施来解决边缘化群体用户在平台上遭遇的不公平待遇。莫塞里指出，这项工作包括全面审查Instagram的所有实践、产品与政策，以发现问题并改进其系统。
自成立以来，公平团队一直专注于改善Instagram体验中的几个关键方面。
Instagram官方解释道：“团队的初期工作包括与黑人社区内不同群体进行广泛研究，以确保我们理解并服务于该社区的多样性。我们与创作者、活动家、政策研究者以及普通用户进行了交流，以剖析人们在使用平台时的多样化体验。同时，我们正在审核支撑我们自动化内容管理、推荐和排名系统的技术，以便更好地理解需要进行哪些改变，来确保用户不会在我们的平台上感到被边缘化。”
算法偏见是一个关键问题——任何基于用户活动的算法都可能在一定程度上反映出与输入数据相关的偏见。因此，Instagram一直致力于教育其系统开发人员，让他们了解自身的工作流程可能如何受到此类偏见的影响。
“过去几个月，公平团队启动了一项内部计划，旨在帮助负责开发新产品和技术的员工在他们的每一步工作中都将公平性纳入考量。这项名为‘公平产品计划’的项目，旨在帮助团队思考他们能做出哪些或大或小的改变，从而对边缘化社区产生积极影响。”
在此项努力中，Instagram还引入了新的“机器学习模型卡片”。这些卡片提供了一系列检查清单，旨在帮助确保新的机器学习系统在设计时能将公平性置于首位。
“模型卡片的工作原理类似于问卷，确保团队在实施新模型前停下来思考其可能产生的任何后果，以减少算法偏见的潜在风险。模型卡片提出了一系列以公平为导向的问题和考量，有助于降低对特定社区产生意外影响的可能，并让我们在推出新技术前能够补救任何负面影响。例如，在美国大选前，我们实施了临时措施，增加用户接触到错误信息或暴力内容的难度。我们的团队使用了模型卡片来确保采用适当的机器学习模型以帮助保护选举，同时确保我们的管理措施是公平的，不会对任何一个社区产生不成比例的影响。”
再次强调，这是任何平台在更广泛的公平性努力中的关键一环——如果你的算法输入数据本身存在缺陷，那么输出结果也将如此。这也意味着，社交媒体平台可以通过尽可能地从算法推荐中消除偏见，并向用户展示更广泛的内容，从而在消除偏见方面发挥关键作用。
公平团队也一直在努力解决用户对“影子封禁”的担忧，即用户感觉自己的内容在应用内受到了限制。
Instagram表示，关于所谓“影子封禁”的看法，很大程度上源于人们不理解为什么自己获得的点赞或评论比以前少了，同时围绕透明度以及Instagram相关的管理决策也引发了疑问。
未来，Instagram计划就此增加更多解释说明，这可能有助于用户更好地理解他们的内容是否以及如何受到了影响。
“这包括提供工具，以更透明地说明个人账户受到的任何限制或其内容触及范围是否被限缩，以及他们可以采取哪些补救措施。我们还计划建立直接的应用内通信机制，在程序错误或技术问题可能影响用户内容时通知他们。在未来几个月，我们将分享这些新功能的更多细节。”
提高透明度，让用户完全清楚某些帖子触及率低的原因以及是否实施了任何限制，这不仅有助于解决边缘化社区面临的问题，还能解决一系列其他问题。
这是Instagram，乃至更广泛的Mate（Facebook）公司的一个关键发展领域，特别是在基于当前用户行为的机器学习和算法模型方面。
Instagram表示，未来还将推出新的倡议，以帮助扩大黑人拥有的企业的影响力。
