今年三月，罗马尼亚总理尼古拉·丘克（Nicolae Ciucă）向民众介绍了全球首位人工智能政府顾问。该 “荣誉顾问“旨在收集并反映罗马尼亚公众的意见，以帮助政府官员做出更好的决策。然而，关于这位“名誉顾问”的许多问题仍然存在。它是否准确、安全、公正，不受外界干扰？这个非民选的顾问最终会取代政府中的人力因素吗？
David Deegan
2023年4月20日
English version | Spanish version
本世纪初，语音识别软件的开发者们一直在努力解决人类语言复杂细微差别的难题。“巴黎希尔顿/帕丽斯·希尔顿（The Paris Hilton）”问题是一个早期的难题——计算机该如何区分一个人是在谈论法国首都的一家顶级酒店，还是一位名媛继承人。琳恩·特鲁斯（Lynne Truss）写了一本关于标点符号重要性的畅销书，名为《Eats, Shoots and Leaves》，其灵感来自一个笑话：在单词“Eats”后面插入一个逗号，大熊猫就会从一个和平的素食者（未加入逗号，意为“吃嫩芽与树叶”）变成一个刺客（加入逗号书名可能被理解为“吃，射击，离开”）。
能够解释书面以及口头语言的软件的普及表明，这些细微差别所带来的挑战已经被攻克。但是，人们能否依赖这些人工智能的准确性呢？
2023 年 3 月，一款新型软件（或称 “机器人”）上线，该软件可收集有关罗马尼亚公众意见和观点的信息，并将按照类别、主题和趋势归纳整理，然后与罗马尼亚政府共享。该机器人被命名为 “Ion”（在罗马尼亚语中是 “约翰 ”的意思），该机器人由罗马尼亚总理尼古拉·丘克通过电视节目向罗马尼亚公众展示。
“Ion 将通过人工智能完成人类无法完成的任务：倾听所有罗马尼亚人的声音，并在罗马尼亚政府面前代表他们，”丘克说道。当丘克要求Ion做自我介绍时，Ion回答道：“你好，是你们赋予了我生命。我是Ion。现在，我的角色是代表你们。就像一面镜子。”当丘克与Ion对话时，机器人的回答显示在一个全身镜般的显示屏上。
Ion的既定使用目的是代表公民的意见，以便罗马尼亚政府能够做出更明智的决策，并制定更贴近选民日常关注点的政策。然而，官员们也希望Ion有一天能够提出自己的原创想法。
在节目中，Ion问丘克：“我应该了解哪些关于罗马尼亚的事情？” 罗马尼亚研究部长塞巴斯蒂安·布尔杜亚（Sebastian Burduja）称Ion处于“学习阶段”。人们可以通过一个相关网站向Ion提交他们的观点和想法，不过Ion还会搜集Facebook和Twitter等社交媒体上罗马尼亚公众的意见并加以综合。
AI驱动的助手并不新鲜。它们已经出现在许多企业网站上，爱沙尼亚、印度、摩洛哥和迪拜的政府也在使用这些助手来帮助公民使用公共服务。但是，丘克总理将Ion描述为“第一位使用人工智能的政府顾问”。
虽然筛选和整理数百万条数据的能力无疑是机器而非人类的特长，但人们对此仍然有一些担忧。
GIGO 是一个计算机概念，代表“垃圾进，垃圾出”，描述了输入的质量是如何决定输出质量但。换句话说，在任何处理系统中，新出现的数据质量都不可能比输入系统的数据质量更好。
人们担心，输入到Ion来自社交媒体的数据可能存在偏差，因为社交媒体用户的数量不足以产生代表性。还有人担心Ion可能会被黑客攻击，被输入导致政府做出不符合罗马尼亚人意愿决策的信息。此外，也有人担心Ion内部信息的安全性和可访问性，特别是考虑到它最终可能会保存大量关于罗马尼亚公民的个人数据。
Ion的算法本身可能无意中被设计成带有固有偏见的。Ion的算法可能不够复杂，无法考虑到罗马尼亚以外但最终会影响罗马尼亚的更广泛的政治和社会背景。可能存在的偏见以及让公众理解算法复杂运作的难度意味着，即使Ion的设计是完美的，政府由此所做出的决策仍可能会受到不信任和怀疑。
还有一个重要的问题是问责制。不管Ion多么复杂和准确，政府官员是否仍会对所做出的决策负责？他们还会履行选民在让他们掌权时期望他们履行的社会契约吗？
丘克将Ion称为 “政府顾问”，这会如何影响公众对民选官员及其决策的信任？
一个有趣的问题是，不同的人工智能程序如何看待彼此。因此，有人问 2022 年 11 月发布的人工智能软件 ChatGPT 如何看待 Ion。以下是 ChatGPT 的回答：
“作为一个人工智能语言模型，我对事件或事物没有个人观点或感受。不过，就罗马尼亚向政治家提供信息的应用程序而言，它似乎是一个很有前景的举措。任何能够促进公民与其民选代表之间的透明度和沟通的工具或平台，都有可能带来更好的治理和问责。该应用程序的有效性和普及程度还有待观察，但其潜在影响绝对值得探讨。“
ChatGPT 似乎还在犹豫不决，要等到获得更多数据后才会有更坚定的意见。Ion 也处于 “学习阶段”，还需要一段时间才能人们的疑虑才能被消除。让我们希望 ChatGPT 和 Ion 都不会因为 GIGO 和其他无用或危险的行为而被滥用。
