中国技术的“说服力”正在增强

dootbear

彭博社：中国技术的“说服力”正在增强  

利用技术影响决策的能力不仅仅是北京可能如何使用它的问题，而是一个更广泛的全球关切。  

技术说服力的潜在风险  

是否觉得使用新兴技术工具会改变你的坚定信念，或引导你做出原本不会选择的决定？许多人可能认为自己足够聪明而不会受影响，但越来越多的证据表明情况并非如此。  

生成式人工智能等新技术的“说服力”被认为是与技术可能获得自主能力或协助制造核武器等风险并列的潜在灾难性问题。

此外，低风险的设计，例如让人沉迷于社交媒体的无限滚动功能，或吸引用户保持应用程序连胜记录的功能，已经无处不在。  

中国技术的进展与安全担忧  

最近来自中国的技术进展引发了新的国家安全担忧。澳洲战略政策研究所（Australian Strategic Policy Institute）发布的一项由美国国务院资助的研究发现，中国科技公司正接近开发和部署具有“前所未有的说服能力”的技术。  

从安全角度看，这些技术可能被北京或其他行为体滥用，以影响政治观点，制造社会分裂和动荡。这种能力可以成为一种“不战而屈人之兵”的武器，这与中国古代军事家孙子提出的战略相符。  

报告指出，中国商业领域在开发利用生理和认知弱点改变态度或行为的技术上“已是全球领导者”。这些技术主要依赖收集和分析个人数据，然后与用户进行定制化互动。

报告列举了一些中国公司，这些公司通过生成式人工智能、虚拟现实和新兴神经技术领域支持北京的宣传和军事目标。  

全球性问题与技术两面性  

尽管中国企业在说服技术的开发上领先，但它们借鉴了美国大型科技公司的做法，以更好地理解用户并增加用户粘性。应对北京带来的风险需要我们重新审视技术产品如何影响生活的方式，同时注意人工智能和新技术的快速发展可能进一步放大这些工具的影响力。  

这一问题的复杂性在于其双刃剑的特性。今年早些时候发表的一项科学研究表明，与人工智能模型的对话可以减少阴谋论者对其信仰的执着，即使这些信仰是其身份的重要组成部分。这表明大型语言模型的“积极说服力”也可以通过个性化对话产生有益的影响。  

应对之道与未来展望  

如何防止这些技术被北京或其他不良行为者用于宣传，是一个需要政策制定者解决的挑战，超越了切断先进半导体供应链的范畴。  

提高技术透明度可以成为起点，要求科技公司清楚说明内容的个性化方式可能会如何影响用户行为。

扩大数据保护法，或提供更明确的选项让用户退出数据收集，也可以限制这些工具针对个人的能力。  

提升数字素养和教育至关重要，让人们了解说服技术的工作原理，算法和个性化内容如何运作，以及如何识别和避免潜在的操控。  

最终，更多的研究是保护用户免受说服技术风险的关键。

开发这些工具的公司，如OpenAI和Anthropic，应该引领这一方向。

政策制定者应要求公司与监管机构和相关利益方分享研究成果，从而建立对这些技术潜在滥用的全球认知。这些信息可用于制定明确标准或有针对性的监管措施。  

尽管技术如此先进以至于允许北京“操纵”人们信仰和身份的风险看似遥远，但各国政策制定者不能等到这种情况发生后才做出反应。

现在是全球重新思考我们允许科技公司在生活中掌控多少信息和影响力的关键时刻。  










来源：

https://www.bloomberg.com/opinio ... ?srnd=homepage-asia

December 5, 2024 at 10:00 PM UTC
By Catherine Thorbecke
Catherine Thorbecke is a Bloomberg Opinion columnist covering Asia tech. Previously she was a tech reporter at CNN and ABC News.

dootbear

本文要点:  

1. 中国技术进展引发全球对其“说服能力”担忧。  

2. 北京可能利用这些技术影响政治观点，与全球性技术问题密切相关。

3. 提高数据透明度、扩大保护法规和提升数字素养是应对技术操控的关键策略。  

4. 研究表明人工智能技术也可用于积极改变固有观念，但需防止其被滥用。  

5. 鼓励技术公司与监管机构合作，共同研究并制定针对性措施以规范技术使用。  

6. 全球应尽早行动，重新评估科技公司在个人数据与决策中的作用，避免灾难性后果。  

qingfengsan

中国威胁论?

vch801

qingfengsan 发表于 2024-12-7 06:15
中国威胁论?

不然呢，谁肯资助？
这些所谓的智库全靠政府出资，提供投资人想要的结果。

danielweng

vch801 发表于 2024-12-7 07:29
不然呢，谁肯资助？
这些所谓的智库全靠政府出资，提供投资人想要的结果。 ...

美国是大外宣的祖师爷，中国太嫩了

ulycn

报告列举了一些中国公司，这些公司通过生成式人工智能、虚拟现实和新兴神经技术领域支持北京的宣传和军事目标。  

一切都是美国的错

abcd12345

科技是生产力  大家心知肚明 都在抢占桥头堡  美国多处领先  但也十分担憂中国速度。我还是那句话  中国人的智慧和吃苦精神是中华民族的基因  世界进入压制和突破模式  将十分激烈  无论内循环 世界循环  宇宙循环  争夺将永无止境  中华民族值得骄傲

rockbox

私有财产无法被有效保护的制度下，权力无法被法律有效限制的制度之下，任何技术升级都会成为独裁权力的帮凶，成为社会文明进步的负面力量。

footballKing202

中国科技创新高峰集中体现与疫情期间

szren

如果中国这个时候不乘趁着美帝衰弱，联合俄国 伊朗 北韩 发动一次统一地球的战争都对不起广大爱国群众。

persist

埋头苦干，管他们说什么

一定要mark

国内通讯基本靠喊，哪里有ai?

Auking

跳得越高，衰得越狠

woodywup

第一和第四张照片里的眼镜我也有哦！

party LED glasses amazon 上买的，17刀

不过不明白第四张照片里的人在干嘛

new100years

美国其实想说的是，中国就不该有任何高技术，应该退回去织席贩履

朝花夕拾杯中酒

new100years 发表于 2024-12-7 10:35
美国其实想说的是，中国就不该有任何高技术，应该退回去织席贩履

加拿大财长荒废兰（好像就是那个批准抓梦晚舟的）已经说了，只有中国回到清朝，美加才能感到安全

ymyx2303

rockbox 发表于 2024-12-7 09:05
私有财产无法被有效保护的制度下，权力无法被法律有效限制的制度之下，任何技术升级都会成为独裁权力的帮凶 ...

格局大一点，这些都是人类征服地球和其他生物的帮凶

yl001

朝花夕拾杯中酒 发表于 2024-12-7 11:36
加拿大财长荒废兰（好像就是那个批准抓梦晚舟的）已经说了，只有中国回到清朝，美加才能感到安全 ...

白人社会的国家就是这样
容不得别人挑战 安格鲁萨克逊呗

尤其还是那些个意识形态完全相反的国家。。。

印度再发展下去，也一样会成为众矢之的，不过可能会好些，因为意识形态 政治形态等等，跟天朝上国还是不同的。

加拿大就别跳了，美国的那些小弟们现在还有啥拿的出手的产业啊。。。被压制成这样，还不醒悟

pureboy

ulycn 发表于 2024-12-7 08:40
报告列举了一些中国公司，这些公司通过生成式人工智能、虚拟现实和新兴神经技术领域支持北京的宣传和军事目 ...

这个世界就是美国负责提出概念，中国实现，反哺美国，很好很好。

pureboy

yl001 发表于 2024-12-7 14:08
白人社会的国家就是这样
容不得别人挑战 安格鲁萨克逊呗

可惜印度达不到这样的地位。

pureboy

szren 发表于 2024-12-7 09:22
如果中国这个时候不乘趁着美帝衰弱，联合俄国 伊朗 北韩 发动一次统一地球的战争都对不起广大爱国群众。 ...

中国要是像某些族群那么贪婪，不知廉耻的话，在明朝的时候就是西太平洋的霸主了 。

夏虫语冰

朝花夕拾杯中酒 发表于 2024-12-7 11:36
加拿大财长荒废兰（好像就是那个批准抓梦晚舟的）已经说了，只有中国回到清朝，美加才能感到安全 ...

列强无不怀念我大清

szren

pureboy 发表于 2024-12-7 14:52
中国要是像某些族群那么贪婪，不知廉耻的话，在明朝的时候就是西太平洋的霸主了 。 ...

为什么不能？有什么理由不能？难道就靠嘴炮吗？

pureboy

szren 发表于 2024-12-7 19:51
为什么不能？有什么理由不能？难道就靠嘴炮吗？

因为有丰富的资源和巨大的内部市场，不需要像那些绰尔小国为了生存而不断的扩张。这个是历史事实而非嘴炮。

s4048987

夏虫语冰 发表于 2024-12-7 15:17
列强无不怀念我大清

老佛爷、光绪爷，列强大爷想您们啦！

要不，拉他们下去，陪您二位唠唠嗑？

szren

pureboy 发表于 2024-12-7 23:55
因为有丰富的资源和巨大的内部市场，不需要像那些绰尔小国为了生存而不断的扩张。这个是历史事实而非嘴炮 ...

蕞尔小国。绰尔什么东东?

pureboy

szren 发表于 2024-12-8 07:34
蕞尔小国。绰尔什么东东?

兄弟，谢谢校正。

中华文化自商、周以来都有明确的文字记载，文字作为文化载体一直延续到现在，你我虽然在海外，仍旧可以用中文来交流，这就是中华文化的生命力。

中国文化兼容并蓄，比起那些由死海之地起源的宗教文化，有太强的包容性，可以说是真正的大熔炉。

这种强大的文化就是形成的中华文化只是向外输出文化，输出发达的生产力，而不是需要向海外扩张而维持自己生存。

现在的中国只不过是回到在历史上应有的地位，你作为中华文化的载体、我相信你对自己文化主体所取得的成就而感到欣慰。

现在的时代中国向世界开放，和愿意合作的国家互利互惠，反倒是美欧以高关税闭关锁国，你看看谁代表进步势力。谁更像100年前的大清？谁会在最后的较量中站得先机。