Ethique Info

Accueil > Sciences > Robots de guerre

Ont-ils une âme ?

Robots de guerre

Comment les utiliser ?

lundi 8 décembre 2008, par Picospin

L’hypothèse avancée consiste à supposer que des robots intelligents sont susceptibles de se conduire mieux que ne sauraient le faire des hommes. Les drones, les détecteurs de mines et tous les dispositifs de détection existent déjà sur les champs de bataille mais ils restent sous le contrôle des hommes.

Des chars et des robots

Ce n’est pas de ces types d’engins que parle l’inventeur de ces inventions mais des robots qui travaillent sous leur propre initiative. Lui est d’autres inventeurs déclarent que la technologie et le savoir faire qui conduit à la fabrication de robots autonomes capables de tuer sont bon marché et que de ce fait ils ne font que proliférer ce qui laisse à penser qu’il ne faudra pas attendre longtemps avant que ces engins ne soient déployés. Ce qui signifie qu’il est grand temps de réfléchir et de parler de cette technologie pour déterminer réellement si on veut les mettre en action. Ce n’est pas de la science fiction si l’on songe que des pays comme Israël et la Corée du sud sont déjà en train d’installer ces dispositifs pour la protection des frontières. On espère que cette recherche fondamentale sera capable de montrer comment des soldats humains se serviront de cette arme et comment cette dernière entrera en action avec d’autres systèmes autonomes et comment ce dernier pourra interagir avec d’autres systèmes autonomes dans les limites imposées par des soldats. C’est dans ces conditions que l’inventeur se mit à décrire les avantages de ces robots. Ils peuvent être conçus sans mettre en jeu l’instinct individuel de conservation et dans ce contexte sans avoir la fâcheuse tendance à commettre un acte de folie en cas de peur. Ils peuvent être fabriqués sans colère ni haine et pourraient avoir un comportement neutre face à ce qui est appelé le problème psychologique du déroulement d’un scénario qui conduit les gens à absorber de nouveaux renseignements d’autant plus facilement qu’ils coïncident avec les idées qui étaient ancrées chez eux auparavant. Le rapport que cet inventeur a publié fait allusion à une enquête menée à l’instigation du Chirurgien Général selon laquelle moins de la moitié des soldats engagés en Irak ont affirmé que les civils doivent être traités dignement et respectés et que près de 20% de tous les civils devraient être considérés comme des insurgés.

Comment utiliser les robots ?

D’où l’idée que l’on pourrait imaginer plusieurs façons d’utiliser les robots comme par exemple dans des embuscades, des nettoyages de maisons et d’immeubles où l’on pense que se trouvent des terroristes ou d’autres missions dangereuses. En premier lieu, ces engins devraient être programmés par des directives et des règles sur les cibles à viser, des précisions sur les moments opportuns de tirer et les moyens de distinguer des ennemis qui sont partis à l’attaque de civils ou des soldats prêts à se rendre ou des blessés. Des membres du comité d’éthique, pensent l’inventeur et le co-auteur d’un livre paru à cette occasion, seraient sans doute réticents à accepter un jugement éthique à ce sujet. Ils se demandent cependant s’il est opportun de mettre au point un système capable d’émettre un avis d’ordre éthique. Les pilotes de robots reçoivent toutes les informations qu’un spécialiste de cette tâche peut collecter y compris des cartes, montrant les lieux de recueillement et de prière, les appartements, les écoles et d’autres centres de la vie civile.

Un bon entrainement

Ils reçoivent toutes les instructions nécessaires sur la localisation et le comportement de l’ennemi, du matériel et des cibles qui revêtent une priorité haute. Ils reçoivent aussi de nombreuses directives sur les règles et les conditions dans lesquelles ils sont autorisés à commencer un combat et à le poursuivre. Certains ingénieurs se demandent si ces robots des champs de bataille élaborés sans aucune émotion ne risquent pas de manquer sérieusement d’empathie. Il se trouve que l’inventeur du système est un chrétien croyant qui reconnaît l’aide de Dieu et de Jésus dans certaines circonstances ce qui lui permet d’affirmer que les règles de la "Convention de Genève" sont fondés sur des principes humains et que le fait de les construire en gardant en mémoire ces principes, les dote d’un certains sens d’empathie. Ce qui n’empêche pas de le rendre sceptique sur les capacités de son invention à mettre au point des algorithmes capables de reconnaître des blessés ou des hommes prêts à se rendre. Il pense que la part la plus importante de son travail consistera à réunir des experts capables d’entamer de solides discussions sur ce sujet. Que ces instruments de l’avenir soient en définitive bannis ne le décevrait sûrement pas.

Sources :

The New York Times
Samedi 6 décembre 2008 page 6.

Questionnement éthique :

1. Comment est-on passé de l’utilisation des animaux pour transporter des objets lourds comme les pierres qui ont servi à construire les pyramides à des dispositifs "basés sur le pilotage du cerveau" dont on pense qu’ils vont incessamment si ce n’est déjà fait être dotés de capacités de mémorisation, de catégorisation, d’apprentissage et de conditionnement sans directives ?

2. Est-ce qu’une confusion s’est établie entre les tâches accomplies par les animaux qui, dans leur souci d’aider parfois les hommes, ont été considérés comme susceptibles d’avoir une conscience et les machines robotisées qui n’étaient capables que de remplir une unique fonction ?

3. Pourquoi ne pourrait-on pas construire un robot facile à programmer qui aurait plusieurs fonctions, pilotant des capacités propres à manipuler ou transporter tout ou partie d’outils, ou des pièces spécialisées surajoutées dont la fonction serait de contribuer à réaliser différentes tâches spécifiques ?

4. En sommes-nous déjà à la construction des engins pilotés par le cerveau dont le fonctionnement serait commandé par des ordinateurs, qui n’aurait pas de fonction cible, mais qui serait doté de circuits connectés au hasard. Dépourvu de programme défini, ces machines auraient selon des modèles neuro-anatomiques tels qu’on en a rencontrés dans les espèces au cours de l’évolution.

5. Les dispositifs "darwiniens" sont capables de développer des catégories de perception basées sur leurs expériences tirées du monde réel après quoi ils construisent des systèmes dotés de mémoire en réponse aux stimulations qui ont été tirées de ces expériences princeps.