Voor gevechtsrobots bestaan al veel regels, maar ook in meer alledaagse situaties zijn die hard nodig, zegt Scheutz. Een plek waar robots aan terrein winnen is bijvoorbeeld de zorg, en dat is juist ook een plek waar gevoelige beslissingen worden genomen. Neem een verpleegrobot, die medicijnen uitdeelt maar niet zelf voorschrijft. De robot heeft twee instructies. De eerste instructie is te voorkomen dat de patiënt pijn heeft en de tweede instructie is dat hij alleen medicatie mag toedienen nadat hij via het internet toestemming heeft gekregen van de behandelend arts. Op een dag wordt de patiënt wakker met veel pijn en vraagt om extra pijnmedicatie; het is duidelijk dat de patiënt lijdt, maar het internet ligt eruit en de robot kan geen contact leggen met de arts. De robot komt voor een dilemma te staan: bij de opdracht blijven en geen medicijnen geven betekent dat de patiënt extra lijdt. Maar om zijn lijden te verzachten moet de robot deze instructie in de wind slaan en op eigen houtje medicijnen uitdelen. Volgens Scheutz is het in dit geval wenselijk dat de robot handelt zoals een verstandig mens zou doen: eerst alles op alles zetten om de supervisor te bereiken en, als dat wegens technische omstandigheden uiteindelijk niet lukt, toch de medicijnen geven. Het is belangrijk dat de robot zijn overweging in zo’n geval achteraf kan verantwoorden bij zijn supervisor.

 

Scheutz vindt dat er wetten en regels moeten komen waar robots zich aan kunnen houden. Daar moeten ze op hun beurt naar kunnen redeneren. In sommige situaties zal dat moeilijk blijken en soms zelfs onmogelijk: het leven is zo complex dat de ontwerper nooit alle omstandigheden kan voorzien waar de robot mee te maken kan krijgen. Daarbij verschillen de wetten per land of staat, dus kan robotsoftware niet zomaar worden doorverkocht aan de buren.