人工智能机会与挑战并行 中外学者表示须做好安全准则

人工智能（AI）的蓬勃发展为人类创造无穷机会的同时，也带来未知风险。学者指出，人类需要做好AI模型的安全准则，确保对人类有益。（中新社）

人工智能（AI）的蓬勃发展为人类创造无穷机会的同时，也带来未知风险。中国与国外学者表示，AI技术的发展消除人与机器的语言鸿沟，使得两者相互理解成为可能，但也不忘提醒，通过掌握语言，AI可以形成一种异种文化，甚至可能将人类安置在矩阵般的幻境世界。人类需要做好AI模型的安全准则，确保对人类有益。

澎湃新闻报导，复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华受访时提及，曾经机器和人类之间也存在着这样的情况，至少机器一直以来都无法准确理解人类的自然语言，所以实际上人类一直迁就机器，将自己的意图转换成各种各样的形式语言。

肖仰华直言，但现在看来，这些所有的形式语言都不必要了，基本上可以被自然语言代替。某种程度上而言，可以认为机器「理解」了人类的自然语言，同时也理解各种专业的形式化语言，可以把人类各种自然语言所表达的意图准确转换成相应的形式语言，比如程序设计的语言和芯片设计的语言。

大语言模型消除了语言鸿沟，机器理解人类不再存在障碍。以色列历史学家哈拉瑞（Yuval Noah Harari）认为，人工智能与印刷机、收音机以及历史上的每一项发明都有根本不同，因为它可以创造全新的想法，可以创造新的文化。人类从未真正直接接触到现实，而总是通过文化的棱镜来体验现实。通过掌握语言，人工智能可以形成一种异种文化，拥有将人类包裹在矩阵般的幻境世界所需的一切。

加州大学柏克莱分校罗素（Stuart Russell）教授受访时称，大语言模型本质上是一个「黑箱」，人类很难确切了解触发人工智能「胡言乱语」（即通常所说的幻觉）的机制是什么，这种未知带来当下的担忧。「我们完全不知道这个系统是如何工作的。如果它确实有内部目标，我们也不知道是什么导致了这些目标被启动。」

开发ChatGPT的人工智能机构OpenAI也频频发出警告。OpenAI联合创始人阿特曼（Sam Altman）6月在2023北京智源大会上提醒，想像一下，未来的AGI（通用人工智能）系统或许具有10万行二进位码，人类监督员不太可能发现这样的模型是否在做一些邪恶的事情。

马斯克：中国有潜质称冠AI领域

特斯拉创办人马斯克表示，中国会是人工智能（AI）领域的顶尖国家之一，并认为中国有潜质在该领域占据首位。（新华社）

据俄罗斯卫星通讯社报导，美国企业家马斯克日前在与以色列总理尼坦雅胡交谈时表示，中国会是人工智能（AI）领域的顶尖国家之一，并认为中国有潜质在该领域占据首位。

马斯克在纽约联合国大会期间与尼坦雅胡交谈时说，「至于你所说的哪些国家将在人工智能领域处于领先地位，中国肯定是其中之一，是顶尖国家之一，而且有潜质成为第一名。」

美国企业家马斯克表示，中国会是人工智能（AI）领域的顶尖国家之一，并认为中国有潜质在该领域占据首位。（新华社）

俄罗斯卫星通讯社称，马斯克和尼坦雅胡在会谈中讨论了人工智能对人类的潜在风险和利益。关于此次会谈，法新社此前报导称，尼坦雅胡曾表示，自己将在访美期间与马斯克会面，讨论人工智能等问题，并将鼓励后者赴以色列投资。

据新华社此前报导，联合国安理会7月18日就人工智能与安全问题举行高级别公开会。中国常驻联合国代表张军在会上说，中国秉持人类命运共同体理念，始终以高度负责的态度参与人工智能全球合作与治理，相继在联合国平台提交了关于人工智能军事应用、伦理治理的两份立场文件。

张军表示，中方愿同国际社会一道，在人工智能领域积极落实全球发展倡议、全球安全倡议、全球文明倡议，坚持发展优先，维护共同安全，促进跨文化交流与合作，携手各国共享人工智能技术成果，共同防范和应对风险挑战。