北约战略通信卓越中心(StratCom COE)报告警告称，许多用于监控社交媒体帖子的人工智能(AI)工具过于字面化，难以发现微妙的敌对信息和错误信息。
许多机器学习模型允许平台、公司和政府评估在线帖子和视频的情绪。
然而，在世界人工智能戛纳电影节(2月9日至11日举行)的前一周，一组专家表示，大多数基于人工智能的系统依赖于理解信息背后的情绪，这并不像最初想象的那样清晰。
他们的研究是朴茨茅斯大学(University of Portsmouth)与北约战略传播卓越中心(NATO Strategic Communications Centre of Excellence)合作发表的一份研究报告的一部分，该报告探讨了人工智能的趋势。它概述了这些开源情绪策略的局限性，并推荐了改进它们的方法。
在线微攻击性文本的目标是攻击个人、团体、组织或国家，其攻击方式在人工智能分析时难以发现。
亚历山大·格戈夫博士计算智能方面的读者、朴茨茅斯大学(University of Portsmouth)为北约战略司令部(NATO StratCom COE)从事这项研究的团队负责人表示:“在社交媒体平台上，微妙的微侵犯是危险的，因为它们往往会引起信仰相似的人的共鸣，并有助于传播有毒或敌对的信息。”
“在线估计情绪是具有挑战性的，但在这份报告中，我们证明了有很多方法可以增强传统的预处理管道。现在是时候超越简单的两极情绪，教人工智能评估对话的背景了。”
作者说谷歌拼图的情绪分类器是在线分析两极情绪的一个有趣的补充，但它的分类器无法区分读者对有毒评论的反应还是散布仇恨言论的人。
他们发现了一种不同的方法，被称为修辞结构理论(RST)，是一种更可靠、更有效的分析微侵犯的方法。在某种程度上，它模仿了大脑如何无意识地通过分配某些单词或短语的重要性来权衡句子的不同部分。
例如:“Today is pretty bad”和“That 's a pretty dress”都包含肯定词“pretty”。但“pretty”也可能会强化周围词语的情绪，比如“bad”。
该研究的联合负责人解释说:“显然，在试图对更微妙的仇恨言论进行分类时，仅分析文本是不够的。Djamila Ouelhadj他是朴茨茅斯大学运筹学和分析学教授。
“我们与北约战略司令部COE的研究提出了一些关于如何改进人工智能工具以解决这些限制的建议。
“了解一个人是如何将一条信息组合在一起的，可以提供一个丰富的、未开发的信息源，可以为分析人员提供一个关于信息是如何以及为什么组合在一起的‘故事’。
“例如，当分析来自攻击性或反西方团体和个人的信息和推文时，RST模型可以根据他们对所传播话题的信心，告诉我们一个团体有多激进。
“它还可以通过测量一个人在表达自己的‘观点’时表现出的不安全感程度，来帮助判断这个人是被教化了还是变得激进了。”
该团队已经制作了一系列数据集来理解微侵犯，并使用英语和俄语文本对它们进行了测试。
他们从与克里姆林宫有关的电报频道中提取了500条俄语信息样本，讨论乌克兰战争，并使用b谷歌拼图模型分析了它们的敌意程度。
与俄罗斯原始文件相比，翻译后的文本在毒性方面得分较低。这突出表明，当人工智能从原始语言翻译消息时，会遗漏或忽略一些有害的推断。在分析敌意不那么明显的微攻击时，这种效应可能会更强。
为了克服这个问题，该论文说，在线翻译可以进行微调，使其适应特定国家和地区的语言。
北约战略司令部高级专家Gundars博士Bergmanis-Korāts表示:“北约及其盟国的政府、组织和机构必须应对当前的人工智能挑战，并专注于调整当地语言细节，以确保国际能源机构的能力平等。
“军事和政府组织利用机器学习工具来检测、衡量和减轻在线虚假信息，并衡量通信的有效性和覆盖范围。因此，通过分析传播语境来了解受众是至关重要的。”
去年，美国拨出50多万美元用于开发一种人工智能模型，该模型可以自动检测和抑制社交媒体上的微侵犯行为。
格戈夫博士补充说:“社交媒体信息的整体本质往往隐藏在不太相关的句子之间，这就是为什么在平台上手动过滤和后处理步骤是必要的。”
“这可能不会在一夜之间改变，但是虽然没有一个工具可以做所有事情，但我们探索了一些简单的技巧，数据分析师和人工智能爱好者可以做，以潜在地提高他们的文本处理管道的性能。
“我们还鼓励社交媒体监控机构对他们目前使用的系统变得更加透明。”
