Universo Energético
Na ficção, conforme preconizado por Isaac Asimov, as máquinas estavam sujeitas às Três Leis da Robótica:
Na realidade, enquanto alguns criam robôs que ajudem paraplégicos a recuperar seus movimentos e explorar outros planetas, os primeiros produtos a chegar ao mercado visam, ao contrário, ferir e matar.
O problema atingiu proporções que chamaram a atenção da ONU (Organização das Nações Unidas), que, sem maiores divulgações, reuniu-se para discutir a "ética" dos robôs assassinos pela primeira vez.
Pesquisadores, especialistas em robótica e até ex-comandantes militares reuniram-se em Genebra, na Suíça, para falar sobre os recentes avanços em "armas letais autônomas", um eufemismo para robôs assassinos ou armas robotizadas.
Os tópicos incluíram as questões éticas envolvidas e quais leis estão sendo afetadas ou eventualmente desobedecidas pelas máquinas de matar que, percebidas ou não, já estão em operação.
Os resultados da discussão só serão conhecidos em Novembro, quando o grupo que dirigiu os trabalhos vai apresentar seu relatório oficial.
Robôs assassinos
O risco dos robôs assassinos não é mais uma ameaça hipotética.
A Rússia acaba de equipar suas bases de mísseis com robôs armados que podem atirar em qualquer invasor - ou humano desavisado - de forma autônoma.
Enquanto isso, uma empresa na África do Sul começou a vender robôs para combater manifestações da sociedade civil, citando sobretudo as greves, um direito constitucional em virtualmente todos os países do mundo.
De acordo com uma pesquisa da ONU, civis foram mortos em 33 ataques com drones ao redor do mundo. No Paquistão, de 2.200 a 3.300 pessoas foram mortas por ataques de drones norte-americanos desde 2004, 400 dos quais eram civis. De acordo com os últimos dados do Ministério da Defesa do Paquistão, 67 civis foram mortos em ataques de drones no país desde 2008.
Em 2006, o Japão decidiu adotar a primeira lei de Asimov, argumentando que ainda não seria realístico dar atenção às outras duas.
Mas os fatos mostram que já não é mais suficiente confiar em humanos responsáveis para fazer robôs responsáveis.
"Não é mais 'muito cedo' para começar a discutir esse tipo de questão, dada a velocidade de seu desenvolvimento," afirmou Linda Johansson, pesquisadora em ética robótica no Instituto Real de Tecnologia da Suécia.
Decisão robótica
Linda sugere que, com a realidade atropelando as previsões dos futurólogos, é necessário reconsiderar as leis internacionais de guerra e examinar quem deve ser responsabilizado pelas ações dos robôs avançados.
"Soldados podem matar outros soldados em uma guerra - seria admissível que alguém do outro lado da terra ataque os operadores que controlam os drones?" questiona a pesquisadora.
Ela também questiona a ética de atribuir aos operadores de drones a tarefa de rastrear uma pessoa à distância por dias, eventualmente semanas, antes de disparar no momento "mais propício": "Isso é diferente de soldados de combate comuns que enfrentam seus adversários diretamente," diz ela.
"Em breve poderemos estar diante de uma situação em que um operador controla dois drones em vez de um, por razões de custo," prevê Linda. "Acrescente a isso a tendência humana de confiar na tecnologia; agora imagine uma situação em que decisões muito rápidas devem ser tomadas. Fica fácil deixar a etapa da decisão fora do circuito e entregar o controle para o robô ou computador."
"O homem se torna o elo mais fraco," conclui ela.
Valor da vida
Na semana passada, um relatório da organização Human Rights Watch pediu o banimento das armas robotizadas e autônomas.
"Como máquinas inanimadas, armas totalmente autônomas não podem verdadeiramente compreender nem o valor de uma vida individual, nem o significado de sua perda", afirma a nota da entidade.
Desde Asimov, muitas têm sido as preocupações com o risco do surgimento de "máquinas assassinas".
Confiando que o futuro demoraria muito a chegar, a sociedade não se preparou, e agora terá que lutar para evitar que o problema atinja um ponto sem volta.
Leia mais:
Aumenta Preocupação com Robôs Assassinos Autônomos
"Robôs Assassinos" e seu Uso Serão Debatidos na ONU
EUA: Cientistas Criam Partículas Biônicas "Inspirados no Exterminador do Futuro"
Fontes:
- Inovação Tecnológica: Por que a sociedade não se posiciona contra os robôs assassinos?
- Guerra De Robôs é Inevitável, Sugerem Especialistas
Armas autônomas de alto nível já existem As Nações Unidas têm alertado que suas longas negociações sobre o futuro das armas letais autônomas - ou "robôs assassinos" - estão se movendo muito lentamente para deter as guerras de robôs se tornem...
- Pesquisadores E Especialistas Em Robótica Assinam Carta Aberta Pedindo A Proibição Da Inteligência Artificial
Mais de 1000 especialistas e pesquisadores líderes em robótica assinam uma carta aberta que alerta sobre os perigos de uma "corrida armamentista de inteligência artificial militar" e pede a proibição das "armas ofensivas autônomas". "A tecnologia...
- Bilionário Elon Musk Diz Que Robôs Podem Começar A Matar Humanos Em Cinco Ou Dez Anos
O cenário catastrófico dos filmes “O exterminador do futuro” e “Eu, robô”, em que máquinas se voltam contra seus criadores e aniquilam a raça humana, estaria bem próximo de se tornar realidade, segundo o bilionário sul-africano Elon Musk....
- "robôs Assassinos" E Seu Uso Serão Debatidos Na Onu
Blog Anti-NOM Especialistas vão discutir na ONU a necessidade de máquinas autônomas letais capazes de identificar e matar alvos, sem intervenção humana. Duvidamos e muito que a ONU fará uma intervenção concreta sobre este assunto. Pois vale lembrar...
- Aumenta Preocupação Com Robôs Assassinos Autônomos
Há mais de duas décadas, Mark Gubrud, pesquisador do Programa sobre Ciência e Segurança Global da Universidade de Princeton, nos Estados Unidos, luta pela criação de regras para o controle de armas robóticas autônomas. Ele é membro do Comitê...
Universo Energético
Por que a Sociedade não se Posiciona contra os Robôs Assassinos?
Máquinas que matam humanos. A realidade encontrou a ficção cara a cara no campo da robótica. Contudo, além do encontro estar passando despercebido pela sociedade, a robótica parece ter chegado de forma menos controlada do que a ficção previra.
Na ficção, conforme preconizado por Isaac Asimov, as máquinas estavam sujeitas às Três Leis da Robótica:
As Leis da Robótica, conforme propostas
por Isaac Asimov - elas não estão em vigor.
por Isaac Asimov - elas não estão em vigor.
Na realidade, enquanto alguns criam robôs que ajudem paraplégicos a recuperar seus movimentos e explorar outros planetas, os primeiros produtos a chegar ao mercado visam, ao contrário, ferir e matar.
O problema atingiu proporções que chamaram a atenção da ONU (Organização das Nações Unidas), que, sem maiores divulgações, reuniu-se para discutir a "ética" dos robôs assassinos pela primeira vez.
Pesquisadores, especialistas em robótica e até ex-comandantes militares reuniram-se em Genebra, na Suíça, para falar sobre os recentes avanços em "armas letais autônomas", um eufemismo para robôs assassinos ou armas robotizadas.
Os tópicos incluíram as questões éticas envolvidas e quais leis estão sendo afetadas ou eventualmente desobedecidas pelas máquinas de matar que, percebidas ou não, já estão em operação.
Os resultados da discussão só serão conhecidos em Novembro, quando o grupo que dirigiu os trabalhos vai apresentar seu relatório oficial.
Robôs assassinos
O risco dos robôs assassinos não é mais uma ameaça hipotética.
A Rússia acaba de equipar suas bases de mísseis com robôs armados que podem atirar em qualquer invasor - ou humano desavisado - de forma autônoma.
Enquanto isso, uma empresa na África do Sul começou a vender robôs para combater manifestações da sociedade civil, citando sobretudo as greves, um direito constitucional em virtualmente todos os países do mundo.
De acordo com uma pesquisa da ONU, civis foram mortos em 33 ataques com drones ao redor do mundo. No Paquistão, de 2.200 a 3.300 pessoas foram mortas por ataques de drones norte-americanos desde 2004, 400 dos quais eram civis. De acordo com os últimos dados do Ministério da Defesa do Paquistão, 67 civis foram mortos em ataques de drones no país desde 2008.
Em 2006, o Japão decidiu adotar a primeira lei de Asimov, argumentando que ainda não seria realístico dar atenção às outras duas.
Mas os fatos mostram que já não é mais suficiente confiar em humanos responsáveis para fazer robôs responsáveis.
"Não é mais 'muito cedo' para começar a discutir esse tipo de questão, dada a velocidade de seu desenvolvimento," afirmou Linda Johansson, pesquisadora em ética robótica no Instituto Real de Tecnologia da Suécia.
Decisão robótica
Linda sugere que, com a realidade atropelando as previsões dos futurólogos, é necessário reconsiderar as leis internacionais de guerra e examinar quem deve ser responsabilizado pelas ações dos robôs avançados.
"Soldados podem matar outros soldados em uma guerra - seria admissível que alguém do outro lado da terra ataque os operadores que controlam os drones?" questiona a pesquisadora.
Ela também questiona a ética de atribuir aos operadores de drones a tarefa de rastrear uma pessoa à distância por dias, eventualmente semanas, antes de disparar no momento "mais propício": "Isso é diferente de soldados de combate comuns que enfrentam seus adversários diretamente," diz ela.
"Em breve poderemos estar diante de uma situação em que um operador controla dois drones em vez de um, por razões de custo," prevê Linda. "Acrescente a isso a tendência humana de confiar na tecnologia; agora imagine uma situação em que decisões muito rápidas devem ser tomadas. Fica fácil deixar a etapa da decisão fora do circuito e entregar o controle para o robô ou computador."
"O homem se torna o elo mais fraco," conclui ela.
Valor da vida
Na semana passada, um relatório da organização Human Rights Watch pediu o banimento das armas robotizadas e autônomas.
"Como máquinas inanimadas, armas totalmente autônomas não podem verdadeiramente compreender nem o valor de uma vida individual, nem o significado de sua perda", afirma a nota da entidade.
Desde Asimov, muitas têm sido as preocupações com o risco do surgimento de "máquinas assassinas".
Confiando que o futuro demoraria muito a chegar, a sociedade não se preparou, e agora terá que lutar para evitar que o problema atinja um ponto sem volta.
Leia mais:
Aumenta Preocupação com Robôs Assassinos Autônomos
"Robôs Assassinos" e seu Uso Serão Debatidos na ONU
EUA: Cientistas Criam Partículas Biônicas "Inspirados no Exterminador do Futuro"
Fontes:
- Inovação Tecnológica: Por que a sociedade não se posiciona contra os robôs assassinos?
- Guerra De Robôs é Inevitável, Sugerem Especialistas
Armas autônomas de alto nível já existem As Nações Unidas têm alertado que suas longas negociações sobre o futuro das armas letais autônomas - ou "robôs assassinos" - estão se movendo muito lentamente para deter as guerras de robôs se tornem...
- Pesquisadores E Especialistas Em Robótica Assinam Carta Aberta Pedindo A Proibição Da Inteligência Artificial
Mais de 1000 especialistas e pesquisadores líderes em robótica assinam uma carta aberta que alerta sobre os perigos de uma "corrida armamentista de inteligência artificial militar" e pede a proibição das "armas ofensivas autônomas". "A tecnologia...
- Bilionário Elon Musk Diz Que Robôs Podem Começar A Matar Humanos Em Cinco Ou Dez Anos
O cenário catastrófico dos filmes “O exterminador do futuro” e “Eu, robô”, em que máquinas se voltam contra seus criadores e aniquilam a raça humana, estaria bem próximo de se tornar realidade, segundo o bilionário sul-africano Elon Musk....
- "robôs Assassinos" E Seu Uso Serão Debatidos Na Onu
Blog Anti-NOM Especialistas vão discutir na ONU a necessidade de máquinas autônomas letais capazes de identificar e matar alvos, sem intervenção humana. Duvidamos e muito que a ONU fará uma intervenção concreta sobre este assunto. Pois vale lembrar...
- Aumenta Preocupação Com Robôs Assassinos Autônomos
Há mais de duas décadas, Mark Gubrud, pesquisador do Programa sobre Ciência e Segurança Global da Universidade de Princeton, nos Estados Unidos, luta pela criação de regras para o controle de armas robóticas autônomas. Ele é membro do Comitê...