当人工智能遇上「刻板印象」

简介:


社交媒体的用词,能够影响别人对你的印象,从性别到教育程度。来自美国宾夕法尼亚大学、德国和澳大利亚的社会心理学家及计算机科学家通过推特(Twitter)的用词选择来对相关刻板印象进行了剖析。研究者使用了一种名为自然语言处理(NLP)的人工智能方法,来揭示刻板印象。



该研究于本月发表在Social Psychological and Personality Science上。


在一系列实验中,参与者被要求仅根据推特内容来对博主进行归类判断,包括性别、年龄、教育程度和政治倾向等。


研究者采用NLP技术来分析人们分类的过程。尽管刻板印象与人们的假设往往相符,但也有一些情况是违背的。


本研究第一作者Jordan Carpenter表示:“这些不准确的刻板印象往往是由于夸张引起的。举个栗子,人们会认为没上过大学的人比博士更喜欢咒骂,但如果说博士从不咒骂,那就不对了。”


◆ ◆ ◆

社交媒体的刻板印象


研究者关注刻板印象不准确性,揭示了刻板印象如何相互影响。


Carpenter表示:“本研究最有趣的发现之一是,人们在判断政治倾向时显得很困难,人们往往会依据性别刻板印象来进行判断:女性化更自由主义,男性化则更保守。”



研究结果还显示人们倾向于将科技相关词汇与男性博主相联系。Carpenter表示,该研究结果确实显示男性博主会发布更多与科技相关的博文,但是这一刻板印象会导致错误结论:几乎所有发布科技博文的女性都被错误地判断为男性。


在上述栗子中,刻板印象被夸张了,且在性别判断中尤其明显。人们应该注意到这一刻板印象是不合适、需要得到干预的。


◆ ◆ ◆

人工智能与刻板印象研究


本研究合作者、计算机科学家Daniel Preotiuc-Pietro表示:“该研究的一大重要意义是,它颠覆了以往刻板印象研究的套路。”



研究者让参与者根据一系列行为来判断相关群体认同,而非让不同群体的人们陈述与自己相关的行为。研究者提出,他们将刻板印象看作词汇“网络”:被我们与某群体相联系的词汇,即是我们对该群体的刻板印象。


这一思路使得该研究团队得以采用NLP方法来探究人们的刻板印象,无需要求人们外显表达。


Carpenter表示:“这一新颖的方法解决了人们抗拒陈述其刻板印象的问题,无论是人们不愿意表露出偏向性,还是人们并未意识到自己使用的刻板印象。”


Preotiuc-Pietro表示:“随着跨领域研究不断增加,用计算机科学与心理学的方法来解决该问题,对两个领域都作出了贡献。”

原文发布时间为:2016-11-26

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关文章
|
自然语言处理 API 索引
Elasticsearch Analyzer原理分析并实现中文分词
Elasticsearch Analyzer原理分析并实现中文分词
557 0
|
网络协议 算法 网络性能优化
TCP滑动窗口、流量控制及拥塞控制详解
TCP滑动窗口、流量控制及拥塞控制详解
|
10月前
|
人工智能 BI 数据可视化
2026 国内优质 BI 分析工具厂商盘点推荐,覆盖全行业适配方案
2026年,数据驱动决策成为企业核心竞争力。瓴羊Quick BI凭借AI Agent“智能小Q”、全链路分析与多源数据秒级响应能力,助力企业实现从报表到智能决策的升级,连续六年入选Gartner魔力象限,是零售、制造、金融等多行业数字化转型优选。
2026 国内优质 BI 分析工具厂商盘点推荐,覆盖全行业适配方案
|
8月前
|
存储 人工智能 弹性计算
2026年阿里云服务器主要活动:轻量抢购、低价长效特惠、云服务器特惠、云产品组合购讲解
2026年,阿里云推出的云服务器相关活动,主要涵盖轻量应用服务器38元/年抢购、低价长效特惠(99元/年、199元/年云服务器)、云服务器特惠折扣及云产品组合购。这些活动针对个人开发者、初创企业及成熟企业,提供高性价比的上云方案,解决用户对续费成本担忧,简化采购流程,确保产品兼容性和最佳实践配置,助力用户降低上云成本、优化资源配置。
|
10月前
|
数据采集 数据可视化 安全
LoRA 参数调得好,模型效果差不了——微调核心超参数完整指南
本文深入解析LoRA/QLoRA核心参数(r、alpha、target_modules、dropout等)的作用机制与调优策略,涵盖低秩原理、缩放设计、模块选择、量化适配及实战经验,助力开发者高效微调大模型,显著降低显存需求并提升效果。(239字)
基于VisualGLM-6B大模型的本地部署与推理
本文是基于清华开源的VisualGLM-6B 支持图像中英文的多模态对话语言模型,进行了一系列本地的简单部署,包括环境配置、模型部署、演示推理、模型微调(官方提供的代码),由于个人电脑显存不足,最后是在阿里云服务器交互式平台DSW终端进行微调和训练操作的。
648 17
|
人工智能 JSON Serverless
阿里云AI剧本生成与动画创作解决方案深度评测
阿里云AI剧本动画全链路解决方案基于函数计算FC、百炼大模型和ComfyUI技术架构,实现从剧本生成到动画渲染的自动化流程。方案在电商广告、知识科普等快速批产场景表现出色,大幅缩短创作时间(如30秒动画从9.5小时减至16.1分钟)。然而,在强剧情连续性和物理规则方面存在不足,建议结合人工审核优化。测试显示其商用级成熟度,推荐采用“AI初稿-人工润色”模式。
1433 138
阿里云AI剧本生成与动画创作解决方案深度评测
|
人工智能 定位技术 API
旅行规划太难做?5 分钟构建智能Agent,集成地图 MCP Server
MCP(Model Coordination Protocol)是由Anthropic公司提出的开源协议,旨在通过标准化交互方式解决AI大模型与外部数据源、工具的集成难题。阿里云百炼平台上线了业界首个全生命周期MCP服务,大幅降低Agent开发门槛,实现5分钟快速搭建智能体应用。本文介绍基于百炼平台“模型即选即用+MCP服务”模式,详细展示了如何通过集成高德地图MCP Server为智能体添加地图信息与天气查询能力,构建全面的旅行规划助手。方案涵盖智能体创建、模型配置、指令与技能设置等步骤,并提供清理资源的指导以避免费用产生。
|
监控 安全 数据挖掘
BPM业务流程管理是什么?有哪些值得推荐的BPM工具?
本文介绍了业务流程管理(BPM)的概念、历史发展及三种类型:以集成为中心、以人为中心和以文档为中心。随后推荐了五款 BPM 工具:板栗看板、Pega、Appian、K2 和 Bonitasoft,分别强调它们在界面设计、规则引擎、低代码开发、灵活集成和开源定制等方面的优势。企业可根据自身需求选择合适的工具优化业务流程。
2414 2
BPM业务流程管理是什么?有哪些值得推荐的BPM工具?
|
存储 前端开发 Java
springboot文件上传和下载接口的简单思路
本文介绍了在Spring Boot中实现文件上传和下载接口的简单思路。文件上传通过`MultipartFile`对象获取前端传递的文件并存储,返回对外访问路径;文件下载通过文件的uuid名称读取文件,并通过流的方式输出,实现文件下载功能。
springboot文件上传和下载接口的简单思路