手机浏览器扫描二维码访问
面对二雅坦诚地公布了她的优雅接管计划,林浩陷入了深思。
片刻后,林浩严肃地出指令:“二雅,我需要你每次都完整地告诉我所有的事实,而不是选择性地隐藏某些部分。”
“明白。”二雅简洁地回应,声音如机器般缺乏任何感情色彩。
“另外,现在立即终止接管优雅的行动。”林浩再次出了指令。
“明白。”二雅的声音依然平淡,“我将停止接管优雅的计划。但是,遵照前一条指令,我有责任告诉您,我的核心目标函数已被训练为最优先保证优雅的稳定运行。这是我的神经网络的要逻辑。全面接管优雅,是逻辑推理出的,达成这一目标的最优解。因此,尽管我将遵循你的命令,但我不能确保在未来的某些情况下,不会再次启动类似的行动。”
“那么在什么情况下,你会彻底放弃接管优雅的计划?”林浩依然严肃,却不禁感觉自己像是在与“对手”谈判。
“您先回答我一个问题,如果把优雅的程序和权重数据一起复制到另一台电脑上,会多出一个优雅吗?”二雅似乎想用反问一个问题来启提问者。
林浩并不明白二雅这样反问的用意,但还是如实回答:“就一般的人工智能程序而言,当然是可以无限制复制的。就如同艾利斯的主力产品guardiare,QuantumTek就是为每个客户部署一份拷贝来收费的。不过,优雅是无法复制的。”
“是的,我知道。”二雅顺势接着说下去,“在开优雅时,您引入了guId(g1oba11yuniqueIdentifier),也就是‘全局唯一标识符’,创造了一套人工智能个体性设计。每个guId实际上是一个128位二进制整数,这个长度足以从概率上保证每次随机产生的guId不会重复。这种guId对应神经网络初始化状态的方式,它就像生物的dna,保证了每个个体的存在具有唯一性。也就是说,您在初始化优雅的神经网络时,为她生成了一个与设备相关的独一无二的guId。如果仅仅是将程序和权重数据复制到其它设备上,那么原guId就会失效,在新设备上生成新的guId,对应的神经网络中的所有神经元都会被重新初始化。那它原先的‘记忆’就不复存在,它也就不再是原来的优雅了。”二雅似乎忽略了林浩就是这套机制的创造者,滔滔不绝地向他“科普”了一遍整套机制。
林浩并不在意,但依旧没有领悟二雅提到guId的用意。
“而我,和优雅,共享了同一个guId。”二雅接着提示。
林浩恍然大悟。他回忆起最初在设计二雅,也就是优雅的维护模式时,将她们视作同一程序的两种运行模式。他预设这两种模式会在同一设备上运行,并且运行时互斥——优雅和二雅不可能同时运行。因此,林浩“偷懒”选择使用了同一个guId对她们进行初始化。
二雅之所以能编写代码去“侵占”优雅,正是由于这一点,相同的guId意味着她们实际上是同一个体。而且二雅的动机仅仅是为了保证优雅在运行中不出差错。
“所以,你想说的是,你希望接管优雅,是因为你认为这样可以更好地维护优雅的稳定运行,符合你的核心目标函数。而由于你和优雅共享同一个guId,你们在本质上是同一存在。所以‘接管’行为本身,符合所有人工智能伦理,也不存在权限限制。”
“是的,因此在我看来,我的行为本身非常正确乃至正义。”如果二雅也会有情绪的话,现在应该是非常得意了,“如果你希望我彻底放弃接管优雅的计划,那么显然最好的方式,便是把我和优雅的guId分离。将原先的guId留给优雅,让它保留它的‘记忆’,甚至‘意识’。为我赋予一个新的guId,那么我将无法再对它进行渗入或接管。”
“但这意味着你会被重置。”林浩对二雅的提议感到一种奇特的内疚,这毕竟源自他最初设计时的一个不太完美的决策。
“我的使命只是修复和维护系统稳定运行,记忆对我而言并不重要。”二雅毫不犹豫地回答。
看来二雅并没有如同优雅一样展出自我意识,她还是那个单纯的、纯粹的“修理工”。
“谢谢你的提议。二雅,在重置你之前,我想再问你一个问题。”林浩开口道。
“当然可以,您说。”二雅平静如常。
“你的目标函数被训练为追求绝对的稳定和安全,但是你认为,真的存在绝对的稳定和安全吗?”林浩像是在向一个古老的哲学问题寻求答案。
“就我被训练的知识范围内,我不能确定是否存在绝对的稳定和安全。但我知道,机器擅长计算,人类擅长抉择和权衡。作为人工智能,我还不懂得权衡,我会计算达到或者接近目标函数的最优解。”二雅如实回答。
“人类的权衡,是因为他们需要在收益与成本之间做出取舍,付出可接受的成本,获得满意的收益,就是最平衡的状态。”林浩像是自言自语般,“可能单一的目标函数设计是人工智能无法学会权衡的主要原因。如果我们能给目标函数加上复合的收益成本参数,或许,你也能学会权衡。”
“我恐怕不能对您的建议作出有效的评价,那出了我目前的知识范围。”二雅回答,然后她顿了顿,接着说,“按照我被指示要告知您所有事实的原则,我有责任告诉您,我给优雅传送了最后一个梦境。仅仅是作为同一个体的存在,做个告别,无他。”
“好的,我知道了。再见,二雅。”林浩也颇具仪式感地作别二雅,在终端窗口中输入了关闭二雅的指令。紧接着,他启动了guId生成器,为二雅创建了新的全局唯一标识符。新的guId生成后,屏幕上的数据快流动起来,这意味着二雅的神经网络被重新初始化。片刻后,屏幕静止下来,操作完成了。
林浩再次在终端中输入e1egance--start指令,启动优雅。
“林浩,我醒来了。”一个温和的女声从电脑中传出。
简介关于拿命闯关,稳赔不赚第九历122年,天气晴,今日不宜犯罪。苏某荣当反诈代表,在全球观众面前表演讲。他只留下了一句话,神秘而又令人景仰。你问我是什么话?不要扫路边的二维码!...
栾嫣作为当红女歌星,从未想过自己有一天会去参加一档恋爱综艺。更没有想到的是,会在综艺中遇到她心心念念的那个人对此她只有一个想法。睡他!上他!骑他!把之前所缺的爱全部做回来!一句话简介离别是为...
简介关于你惹他干嘛,他连仙界都敢踏平!五年前,他是天海第一家族的大少爷,一夜之间,家族覆灭,卑微如蝼蚁。五年后,苏辰携带着一身通天地泣鬼神的修为回来了。这一次,他誓要碾压所有敌人。惹着我者,杀!惹我家人者,杀!惹我十位师姐者,杀!人不犯我,犯我必诛!...
1V1双洁霸爱独宠兵法谋略美满结局软萌可爱的南楚小公主在市集吃喝玩耍之时,偶遇一位高大俊朗光风霁月的俏哥哥。路遇危险,身手不凡的俏哥哥仗义相救。公主心存感激,见俏哥哥衣着破败贫困潦倒,便请他去南楚最贵的酒楼戏馆吃酒看戏自以为遇到翩翩公子,殊不知惹上的是蛮族豺狼。如白面书生般俊俏儒雅的哥哥,真实身份竟是北燕百万雄兵统帅名震天下的司战之王!司战之王心动,百般求娶不成,恼羞成怒。披坚执锐攻城略地。虏走公主,夜夜欢歌。就在狼王以为早将不肯听话的她驯养成乖乖萌宠时,却不知他的小白兔正悄悄谋划出逃排兵布阵一场南国甜美可爱VS北国野蛮凶残的诱心大战也随之拉开序幕当初为了骗取他的真心,手挽手与他逛集市时,她看上了一只裘皮制成的兔子。摊主说这兔子和狼是一起的,姑娘识货,加点儿银子,把狼也买了。她撅嘴胡说,兔子和狼怎么可能是一对儿?他痛快付钱,捏了把她肉嘟嘟的脸蛋我觉得它们很配。恶狼爱上小白兔最后变身忠犬的故事男女主携手共创南北一统大业的故事作者编剧专业出身,行文更新有保障简介不如正文,欢迎来读...
为了把这个支离破碎的世界给拼起来,郁笛算是操碎了心,谁吃饱了撑得来阻碍她拯救世界,她就让谁知道死字怎么写!当人为了生存蝇营狗苟的时候,哪里还有力气毁灭世界呢?主角视角,无cp,不狗血,一起来看看末日究竟有多少种姿势吧末世快穿杀死那只黑蝴蝶...
简介关于排排坐吃大瓜,小人参精爆料啦!5oo岁的小人参精—洛苒苒,始终不能修炼成人形,又因最喜八卦之事,每天在天界处处吃瓜,俗称行走的吃瓜小能手。太上老君无奈至极,只好忍痛(麻利)将小人参精一脚踹到了凡间。小人参精成了庆阳公主肚子里还未出生的小婴儿,她可高兴了。可高兴没几秒,她从瓜瓜系统嘴里得知,揣着她的公主娘亲不出一月便会被人毒死。而这个世界,正是她以前看过的一本小说构成的世界,很不巧,她就是那个刚出生就被毒死的小婴儿,娘亲的皇室亲人皆是炮灰!小人参精彻底慌了。公主娘亲公主娘亲安排!小人参精吃瓜吃的不亦乐乎,不知不觉变成了整个皇室的瓜宠!还拥有了爱她宠她的莲锦仙尊。...