ChatGPT有限公司在农村县生产环境正义信息,发现美国研究

2025-02-26 15:42来源:

研究人员发现,ChatGPT在提供有关环境正义问题的特定位置信息方面存在局限性,他们说,这可能暗示了聊天机器人的地理偏见。

美国弗吉尼亚理工大学的研究人员要求ChatGPT回答一个关于美国各州3108个县的环境正义问题的提示。

故事有限公司 继续下面的广告删除广告

ChatGPT是一个由OpenAI开发的生成式人工智能(AI)工具,它在大量自然语言数据上进行了广泛的训练。这种人工智能工具,也被称为大型语言模型,可以根据用户的请求或“提示”处理、操纵和生成文本响应。

研究人员发现,虽然ChatGPT显示出在大型、高密度人口地区识别特定地点环境正义挑战的能力,但该工具在涉及当地环境正义问题时存在局限性。

他们表示,在被问及的3018个县中,人工智能模型只能为大约17%,即515个县提供特定地点的信息。他们的研究结果发表在《远程信息与信息学》杂志上。

“我们需要调查这项技术的局限性,以确保未来的开发者认识到偏见的可能性。这就是这项研究的驱动动机,”弗吉尼亚理工大学助理教授、该研究的通讯作者金贞焕(Junghwan Kim)说。

研究人员表示,他们选择环境正义作为调查主题,以扩大通常用于测试生成式人工智能工具性能的问题范围。

美国能源部将环境正义描述为“在环境法律、法规和政策的制定、实施和执行方面,不分种族、肤色、国籍或收入,所有人都得到公平对待和有意义的参与”。

故事有限公司 继续下面的广告删除广告

他们说,在全国范围内提出问题,使研究人员能够根据人口密度和家庭收入中位数等社会人口学参数来衡量ChatGPT的反应。他们调查的县的人口范围从1万19,635人(加州洛杉矶县)到83人(德克萨斯州拉文县)。

研究小组发现,在爱达荷州和新罕布什尔州等农村州,超过90%的人口居住在无法接收当地特定信息的县。

另一方面,研究人员说,在特拉华州或加利福尼亚州等城市人口较多的州,不到1%的人口居住在无法接收特定信息的县。

在地理系任教的Kim说:“虽然还需要更多的研究,但我们的发现表明,目前在ChatGPT模型中存在地理偏见。”

该研究的合著者、在计算机科学系任教的Ismini Lourentzou表示,这些发现暗示了有关“大语言模型的可靠性和弹性”的问题。

“这是研究程序员和人工智能开发人员如何能够预测和减轻大城市和小城市之间、城市和农村环境之间的信息差异的起点,”金补充说。Pti KRS

邀请你的朋友和家人注册MC Tech 3,我们的每日通讯,打破了当天最大的技术和创业故事

DAILY-EVENING

订阅你的收件箱里最热门的科技和创业故事,以此结束你的一天

DAILY-EVENING

订阅你的收件箱里最热门的科技和创业故事,以此结束你的一天

噢派网声明:未经许可,不得转载。