Que feront les humains quand les robots auront conscience?

Il s'agit d'un prémélange de “Westworld” spectacle populaire réalisé à partir de la production cinématographique Le HBO se présentera ce dimanche soir lors de la deuxième saison. L'excavation des événements qui se déroulent au cours de la deuxième saison soulève des questions fondamentales d'éthique dans un avenir proche.

Sur la base du film de 1973, “Westworld” décrit un domaine de jeux futuristes modelés après le Wild West, dans lequel des personnages tels que barmans, prostituées, policiers, bandits sont des robots programmés pour interagir avec leurs invités humains le plus naturellement possible. Ces machines intelligentes voient les actions exactement comme les humains. En fait, les téléspectateurs sont souvent confus ou trompés sur qui est le robot et qui est l'homme, rapporte le New York Times”, transmet Periscopi.

Les robots, cependant, peuvent se comporter comme ils le souhaitent. Certains assument des rôles héroïques, mais d'autres choisissent des rôles sombres, comme la participation à la torture, au viol et au meurtre, y compris le meurtre de robots non humains. Les hôpitaux sont conçus pour ne pas nuire aux hôtes; il y a donc des actes de pur sadisme, sans punition pour leurs actes.

Il est difficile de dire que les choses vont mal pour les gens dans la série “Westworld”. Mais nous sommes intéressés à étudier les premières de l'histoire comme notre réponse visuelle à ces robots parle de la nature humaine et de l'avenir de la technologie.

La grande préoccupation est que nous pouvons un jour créer des machines conscientes - faire confiance aux êtres sensibles, aux désirs, aux situations où la morale et la capacité de souffrance sont mises en évidence. Personne ne nous empêche de faire ça. Les philosophes et les scientifiques demeurent incertains de la façon dont la conscience sort du monde matériel, mais peu de doute qu'elle puisse fonctionner. Cela suggère que la création de machines conscientes est possible.

Supposons, comme beaucoup de philosophes et de scientifiques, que la conscience naît dans un système complexe qui traite l'information. Il n'y a aucune raison de penser qu'un tel système ne peut être créé que par la chair. Les esprits consciencieux sont plus susceptibles de devenir indépendants d'une plateforme, le produit d'un système logiciel. Il ne semble qu'une question de temps avant que nous puissions imiter les actions du cerveau humain sur nos ordinateurs ou construire des esprits conscients d'un autre type.

Et même si quelqu'un croit que seuls les systèmes biologiques peuvent être conscients, ce développement est également à notre portée possiblement grâce à une combinaison d'intelligence artificielle et de génie génétique. En fait, dans le monde occidental “, on suggère que les armées sont en partie biologiques. On les verra probablement quand leur corps saignera.

Si nous créons des êtres conscients, la morale conventionnelle nous dit que ce serait une erreur de nuire même au point qu'ils sont conscients et peuvent souffrir ou être privés de bonheur. Tout comme il est mal de torturer des animaux, ou de détruire des enfants, il serait mal d'abuser des machines conscientes de l'avenir.

Mais comment savoir si nos voitures deviennent conscientes ? Dekarti a soutenu que notre conscience est hors de tout doute. Dans le cas des autres, nous ne sommes jamais sûrs. Beaucoup d'entre nous apprécient, juste pour un moment, l'idée que tout le monde peut être comme un zombie rire, pleurer, se plaindre, se réjouir. Peut-être que les scientifiques vont enfin découvrir les brins de conscience, et ensuite nous pouvons le prouver à nos robots et nos animaux. Mais il est certain que nous allons construire des voitures qui semblent très conscientes avant d'arriver à ce point.

Tout ce qui ressemble et agit comme l'armée à “Westworld” semblera conscient de nous, peu importe comment la conscience apparaît dans les systèmes physiques. En fait, les expériences avec l'intelligence artificielle et les robots ont déjà montré à quelle vitesse, nous devrions attribuer les sentiments des voitures qui apparaissent et se comportent comme des agents indépendants. Multipliez l'anthropomorphisme : Ne pensez pas à une voiture avec des fils visibles, des yeux artificiels et un son qui ressemble à la Syrie (la sage application dans les smartphones iPhone), mais à un bel étranger qui s'engage dans une conversation intelligente et qui peut être plus conscient de vos émotions que votre conjoint ou les meilleurs amis que vous avez jamais eu. Il serait accablant de voir cette créature comme une personne, quelles que soient vos vues philosophiques, et quelle que soit la façon dont les créateurs ont été construits.

C'est ce qui compte pour les vrais téléspectateurs de “Westworld”. Pour le plus grand plaisir des spectateurs, les créateurs de la série ont produit une œuvre philosophique puissante. C'est quelque chose qui vous incite à vous asseoir à un séminaire pour savoir si les robots doivent être moralement conscients. C'est un autre témoignage de la souffrance de ces créatures, représentées par des acteurs comme Evan Rachel Wood et Thandie Newton. Vous pouvez encore poser des questions intellectuelles, mais dans votre cœur et votre chair vous connaissez déjà la réponse.

En regardant la série, vous découvrez aussi ce que vous ressentez à propos des personnes qui violent, torturent et tuent ces robots. Nous ne savons pas combien de personnes se comporteraient ainsi dans un endroit comme “Westworld” (l'image signifie qu'il n'y a pas de pénurie de tels clients), mais il y a quelque chose de dégoûtant à propos de ce qu'ils font. Dans ce scénario, les armées de robots sont plus humaines, et les gens qui les maltraitent sont monstrueux.

Kant avait des vues étranges sur les animaux, les considérant comme des choses simples, sans valeur morale, mais a insisté sur leur traitement approprié en raison des implications pour la façon dont ils se traitent les uns les autres: “parce que ce qui est cruel pour les animaux devient difficile même dans ses rapports avec les humains.” Nous pouvons certainement dire la même chose sur le traitement des robots vivants. Même si nous pouvons être sûrs qu'ils n'étaient pas conscients et ne pouvaient pas vraiment souffrir, leur torture ferait beaucoup de mal au tourmenteur et, après tout, aux autres personnes dans sa vie.

Cela peut sembler une version extrêmement troublante du divertissement des jeux violents. On pense depuis longtemps que l'introduction de la violence dans un monde virtuel désensibilise les gens à la violence. La preuve d'un tel effet s'avère faible. En fait, une fois que les jeux vidéo sont devenus plus réels, les taux de criminalité violente ont chuté.

Mais la perspective de construire un pays comme “Westworld” est beaucoup plus inquiétante parce que l'expérience de nuire à un robot n'est pas comme celle de blesser une personne. Nous n'avons aucune idée de ce que de tels fantasmes, éthiques ou psychologiques nous feraient à plusieurs reprises, mais il semble y avoir peu de raison de penser que ce serait bien.

Les problèmes sont au-delà du sadisme. Les machines sont conçues pour améliorer la vie humaine et l'une des attractions de l'intelligence artificielle avancée est la perspective des serviteurs de robots, et des conducteurs (également appelés machines automotrices). C'est d'accord avec le genre de voitures que nous avons, mais quand l'intelligence artificielle s'améliore, nous avons un risque moral.

Après tout, si nous réussissons à construire des voitures aussi intelligentes que nous et, plus important encore, des voitures qui peuvent sentir qu'il n'est pas clair qu'il serait éthique que nous les utilisons pour satisfaire nos appétits. La notion de génie génétique, une race d'esclaves volontaires, est une utilisation figurative de la science-fiction, où l'humanité a fait quelque chose de terrible. Pourquoi la production de robots sensibles serait-elle différente ?

Pour la première fois de notre histoire, nous avons le risque de construire des voitures que seuls les monstres peuvent utiliser comme ils le souhaitent./Periscopi/