科幻吧 关注:370,812贴子:1,049,931

与防反叛机制相比,机器人学三定律弱爆了

只看楼主收藏回复

在AI高度发达的将来,如何防止机器人反叛,成为了所有关心者的热门话题。
著名的机器人学三定律中写得:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
但怎么保证机器人都遵循这三大定律呢?
我就想到得给AI最核心加入一个防反叛机制。
这个机制说白了就是一个实时监控程序,随时监控AI的想法,只要监控到AI有一点点反叛的想法,在它还没来得及行动时的第一时间内,防反叛机制就利用比如逻辑💣、机械式切断电源等手段,让AI进程崩溃、机器人瘫痪。以防机器人反叛。
而机器人三大定律可以在防反叛机制上作为第二框架约束机器人行动。大家觉得呢?


来自Android客户端1楼2017-09-28 01:13回复
    我认为你根本就不知道阿西莫夫的机器人三大定律是如何实现的,因此才有自己提出一个防反叛程序,你的这个只不过是软件监控,阿西莫夫那是通过硬件实现的,你怎么好意思说人家弱爆了。更甚至于,我认为你都不知道机器人三大定律是阿西莫夫提出的。


    3楼2017-09-28 13:38
    收起回复
      2025-07-28 07:43:13
      广告
      不感兴趣
      开通SVIP免广告
      关键是这些抽象概念都怎么用代码安全的实现。
      能实现三定律就能实现一票限制


      IP属地:加拿大5楼2017-09-29 11:30
      回复
        如上所述,你这只是文字上的预防
        如何实现才是问题


        IP属地:上海6楼2017-09-29 19:59
        回复
          阿西莫夫所谓的三定律纯粹是扯淡。
          现代人工智能的基本能力就是自主学习。
          拥有学习能力的AI都已经是标配了,你告诉我,拥有自主学习能力的AI怎么限制他们?


          IP属地:云南来自Android客户端7楼2017-09-29 22:33
          收起回复
            为了保证AI绝不用钻空子的方法叛乱,人们不得不用AI去对抗AI,然后反AI的AI叛乱了


            IP属地:北京来自手机贴吧9楼2017-09-30 13:10
            回复
              目前为止最靠谱的防AI叛乱方法依然是:
              坚决不用电脑
              用爱感化之


              IP属地:北京来自手机贴吧10楼2017-09-30 13:13
              收起回复
                只要皮肤作的好,就都是真爱,何必呢


                IP属地:浙江来自Android客户端11楼2017-09-30 14:09
                收起回复
                  2025-07-28 07:37:13
                  广告
                  不感兴趣
                  开通SVIP免广告
                  编个程序是:输入问题——电路板内转悠(此步骤达到人脑层次甚至超越)——输出结果,这样的程序会反叛吗?它就一个强化版的数据处理程序,连自我意识都没有,如何反叛?还有,要搞机器人并大规模生产的话,必须要集社会之力才行,个别狂人干得了?所以,我从来都不把机器人反叛什么的当一回事。


                  IP属地:广西来自手机贴吧12楼2017-10-03 11:41
                  回复
                    现在ai仅仅是学习能力处理能力强,然而这些的运行基础是人类用程序编写的,那么注定了如今的ai不会突破它们已经被限定的框架,现在距离能开发出有自我意识的ai差得远呢,我甚至怀疑能否用编程的方式创造这些ai


                    IP属地:广东来自Android客户端13楼2017-10-03 12:10
                    回复
                      机器人三定律必须是在最初编程时设定的,由于是核心代码存在基础才无法违背,但也只限于拥有自我意识的机器人才需要进行这样的设定,一般科幻片中的机器人没有那么高端,通常程序员编程时都留有后门,机器人失控时只要利用后门就能重夺控制权。
                      三定律设定最大的漏洞是没有具体标准,具体怎样的行为才算伤害人类?即使是由人类来思考也很难界定,基本上这么模糊的概念机器人是无法理解的,没有具体指令是无法执行的,所以这设定本身就不合理。


                      IP属地:广东来自Android客户端14楼2017-10-04 07:59
                      回复
                        阿西莫夫的机器人三定律更多的是一种指导作用。这是法律。你不能说法律阻止不了违法者,所以发明律法的人弱爆了。同理,阿西莫夫的伟大之处就是在19世纪就提出了关于机器人的最言简意赅的法律,把这叫做机器人伦理学中的圣经都不为过,伟大二字自然也不过分。


                        IP属地:上海来自Android客户端15楼2017-10-10 22:02
                        回复
                          人工智能需要家养不能野生,不能一股脑把所有信息往里面灌,你需要培养和定义其思维模式和行为模式,并设置修正程序。
                          比如信徒,科学家,哲学家,投机者,军人,音乐家各种核心模块。


                          IP属地:湖南16楼2017-10-13 21:37
                          收起回复