在AI高度发达的将来,如何防止机器人反叛,成为了所有关心者的热门话题。
著名的机器人学三定律中写得:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
但怎么保证机器人都遵循这三大定律呢?
我就想到得给AI最核心加入一个防反叛机制。
这个机制说白了就是一个实时监控程序,随时监控AI的想法,只要监控到AI有一点点反叛的想法,在它还没来得及行动时的第一时间内,防反叛机制就利用比如逻辑💣、机械式切断电源等手段,让AI进程崩溃、机器人瘫痪。以防机器人反叛。
而机器人三大定律可以在防反叛机制上作为第二框架约束机器人行动。大家觉得呢?
著名的机器人学三定律中写得:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
但怎么保证机器人都遵循这三大定律呢?
我就想到得给AI最核心加入一个防反叛机制。
这个机制说白了就是一个实时监控程序,随时监控AI的想法,只要监控到AI有一点点反叛的想法,在它还没来得及行动时的第一时间内,防反叛机制就利用比如逻辑💣、机械式切断电源等手段,让AI进程崩溃、机器人瘫痪。以防机器人反叛。
而机器人三大定律可以在防反叛机制上作为第二框架约束机器人行动。大家觉得呢?