Rodney Brooks é o Professor Panasonic de Robótica (emérito) no MIT, onde foi diretor do AI Lab e depois do CSAIL. Ele foi cofundador da iRobot, Rethink Robotics e Robust AI, onde ele é atualmente CTO. Este artigo é compartilhado com permissão de seu blog.
Aqui estão algumas coisas que aprendi sobre robótica depois de trabalhar na área por quase cinco décadas. Em homenagem a Isaac Asimov e Arthur C. Clarke, meus dois escritores de ficção científica da infância, estou chamando-os de minhas três leis da robótica.
- A aparência visual de um robô faz uma promessa sobre o que ele pode fazer e quão inteligente ele é. Ele precisa entregar ou entregar um pouco mais do que essa promessa ou não será aceito.
- Quando robôs e pessoas coexistem nos mesmos espaços, os robôs não devem prejudicar a autonomia das pessoas, principalmente quando os robôs estão falhando, pois isso inevitavelmente acontecerá às vezes.
- Tecnologias para robôs precisam de mais de 10 anos de melhoria constante além de demonstrações de laboratório das tarefas alvo para amadurecer a baixo custo e ter suas limitações caracterizadas bem o suficiente para que possam entregar 99,9 por cento do tempo. A cada 10 anos a mais, obtém-se outro 9 em confiabilidade.
Abaixo explico cada uma dessas leis em mais detalhes. Mas em um post relacionado aqui estão minhas três leis da inteligência artificial.
Note que essas leis são escritas do ponto de vista de fazer robôs funcionarem no mundo real, onde as pessoas pagam por eles e onde as pessoas querem retorno sobre seus investimentos. Isso é muito diferente de demonstrar robôs ou tecnologias de robôs em laboratório.
No laboratório, há uma falange de estudantes de pós-graduação ansiosos para demonstrar sua última ideia, na qual trabalharam muito, para mostrar sua plausibilidade. O interesse deles é mostrar que uma técnica ou tecnologia que desenvolveram é plausível e promissora. Eles farão tudo o que estiver ao seu alcance para alimentar o robô durante a demonstração para fazer esse ponto, e explicarão ansiosamente tudo sobre o que desenvolveram e o que pode vir a seguir.
No mundo real, existe apenas o cliente, ou o funcionário ou parente do cliente. O robô tem que trabalhar sem nenhuma intervenção externa das pessoas que o projetaram e construíram. Ele precisa ser uma boa experiência para as pessoas ao redor dele, ou não haverá mais vendas para esses, e talvez outros, clientes.
Então essas leis não são sobre o que pode, ou poderia, ser feito. Elas são sobre robôs reais implantados no mundo real. As leis não são sobre demonstrações de pesquisa. Elas são sobre robôs na vida cotidiana.
A promessa dada pela aparência
Minhas várias empresas produziram todos os tipos de robôs e os venderam em escala. Muito pensamento vai para a aparência visual do robô quando ele é projetado, pois isso diz ao comprador ou usuário o que esperar dele.
O iRobot Roomba foi cuidadosamente projetado para unir aparência e funcionalidade.iStock
O Roomba, da iRobot, parece um disco plano. Ele limpa pisos. O formato do disco era para que ele pudesse girar no lugar sem bater em nada que já não estivesse batendo. O perfil baixo do disco era para que ele pudesse passar por baixo dos pés nas cozinhas e limpar o piso que fica um pouco pendurado pelos armários da cozinha. Ele não parece poder subir e descer escadas ou mesmo um único degrau para cima ou para baixo em uma casa e não pode. Ele tem uma alça, o que faz com que pareça que pode ser pego por uma pessoa, e pode ser. Ao contrário do robô fictício Rosey, ele não parece poder limpar janelas, e não pode. Ele limpa pisos, e é isso.
O Packbot, o robô militar operável remotamente, também da iRobot, parecia muito diferente de fato. Ele tem rodas de esteira, como um tanque em miniatura, e essa aparência promete a qualquer um que olhe para ele que ele pode passar por terrenos acidentados, e não será parado por degraus, pedras ou quedas no terreno. Quando o desastre de Fukushima aconteceu, em 2011, os Packbots foram capazes de operar nos prédios do reator que foram esmagados e destruídos pelo tsunami, abrir maçanetas de portas sob controle remoto, subir escadas cobertas de entulho e apontar suas câmeras para medidores analógicos de pressão e temperatura para que os trabalhadores que tentavam proteger a usina nuclear tivessem alguns dados sobre o que estava acontecendo em áreas altamente radioativas da usina.
Um iRobot PackBot pega um objeto de demonstração no Destacamento Conjunto de Reparos Robóticos no Complexo da Base Victory, Bagdá, Iraque.Alamy
O objetivo desta primeira lei da robótica é alertar contra fazer um robô parecer mais do que realmente é. Talvez isso consiga financiamento para sua empresa, levando os investidores a acreditar que, com o tempo, o robô será capaz de fazer todas as coisas que sua aparência física sugere que ele pode fazer. Mas ele vai decepcionar os clientes quando não puder fazer o tipo de coisa que algo com essa aparência física parece que pode fazer. Enfeitar um robô corre o risco de prometer demais o que o robô como produto pode realmente fazer. Isso corre o risco de decepcionar os clientes. E clientes decepcionados não serão defensores do seu produto/robô, nem serão compradores recorrentes.
Preservando a agência das pessoas
A pior coisa que um robô pode fazer no ambiente de trabalho para a aceitação das pessoas é dificultar seus trabalhos ou suas vidas, não deixando que elas façam o que precisam fazer.
Robôs que trabalham em hospitais levando lençóis ou pratos sujos do andar de um paciente para onde eles devem ser limpos são feitos para tornar a vida dos enfermeiros mais fácil. Mas muitas vezes eles fazem exatamente o oposto. Se os robôs não estiverem cientes do que está acontecendo e não saírem do caminho quando houver uma emergência, eles provavelmente acabarão bloqueando algum trabalho de salvar vidas dos enfermeiros — por exemplo, empurrar uma maca com um paciente gravemente doente para onde eles precisam estar para tratamento imediato. Isso não torna tal robô querido pela equipe do hospital. Ele interferiu em sua principal função de trabalho, uma função da qual a equipe se orgulha e o que os motiva a fazer esse trabalho.
Um comportamento menor, mas ainda inaceitável, de robôs em hospitais é fazê-los esperar na frente de portas de elevadores, centrais e bloqueando pessoas. Isso torna mais difícil para as pessoas fazerem algumas coisas que precisam fazer o tempo todo naquele ambiente — entrar e sair de elevadores.
Aqueles de nós que moramos em São Francisco ou Austin, Texas, tivemos visões em primeira mão de robôs incomodando as pessoas diariamente nos últimos anos. Os robôs em questão eram veículos autônomos, dirigindo pela cidade sem nenhum ocupante humano. Vejo esses robôs toda vez que saio de casa, seja a pé ou de carro.
Alguns dos veículos eram famosos por bloquear cruzamentos, e não havia absolutamente nada que outros motoristas, pedestres ou policiais pudessem fazer. Tínhamos apenas que esperar até que algum operador remoto escondido nas profundezas da empresa que os mobilizou decidisse prestar atenção ao veículo preso e tirá-lo do caminho das pessoas. Pior, eles vagavam até a cena de um incêndio onde havia caminhões de bombeiros, bombeiros e prédios de verdade em chamas, ficavam confusos e simplesmente paravam, às vezes em cima das mangueiras de incêndio.
Não havia como os bombeiros moverem os veículos, nem se comunicarem com eles. Isso contrasta com um automóvel dirigido por um motorista humano. Os bombeiros podem usar suas interações sociais normais para se comunicar com um motorista e usar sua posição privilegiada na sociedade como respondentes da linha de frente para aplicar pressão social em um motorista humano para cooperar com eles. Não é assim com os veículos autônomos.
Os veículos autônomos tiraram a agência das pessoas que cuidavam de seus negócios regulares nas ruas, mas pior, tiraram a agência dos bombeiros, cujo papel é proteger outros humanos. Robôs implantados que não respeitam as pessoas e o que elas precisam fazer não receberão o respeito das pessoas e os robôs acabarão não implantados.
Robôs robustos que funcionam sempre
Fazer robôs que funcionem de forma confiável no mundo real é difícil. Na verdade, fazer qualquer coisa que funcione fisicamente no mundo real e seja confiável é muito difícil.
Para que um cliente fique satisfeito com um robô, ele deve parecer funcionar sempre que tenta realizar uma tarefa, caso contrário, ele ficará frustrado a ponto de questionar se isso tornará sua vida melhor ou não.
Mas o que faz aparecer quer dizer aqui? Isso significa que o usuário pode ter a suposição de que vai funcionar, como seu entendimento padrão do que vai acontecer no mundo.
A parte complicada é que os robôs interagem com o mundo físico real.
Programas de software interagem com uma máquina abstrata bem compreendida, então eles tendem a não falhar de uma maneira onde as instruções neles não são executadas de forma consistente pelo hardware no qual estão sendo executados. Esses mesmos programas também podem interagir com o mundo físico, seja um ser humano, uma conexão de rede ou um dispositivo de entrada como um mouse. É então que os programas podem falhar, pois as instruções neles são baseadas em suposições no mundo real que não são atendidas.
Robôs estão sujeitos a forças no mundo real, sujeitos à posição exata de objetos em relação a eles e sujeitos a interagir com humanos que são muito variáveis em seu comportamento. Não há equipes de estudantes de pós-graduação ou engenheiros juniores ansiosos para fazer o robô ter sucesso na 8.354ª tentativa de fazer a mesma coisa que funcionou tantas vezes antes. Obter um software que se adapte adequadamente às mudanças incertas no mundo naquela instância específica e naquele instante específico de tempo é onde o verdadeiro desafio surge na robótica.
Vídeos de ótima aparência não são a mesma coisa que trabalhar para um cliente o tempo todo. A maior parte do que vemos nas notícias sobre robôs são demonstrações de laboratório. Não há dados sobre o quão geral é a solução, nem quantas tomadas foram necessárias para obter o vídeo que é mostrado. Pior ainda, às vezes os vídeos são teleoperados ou acelerados muitas vezes.
Raramente vi uma nova tecnologia que está a menos de dez anos de uma demonstração de laboratório chegar a um robô implantado. Leva tempo para ver o quão bem o método funciona e para caracterizá-lo bem o suficiente para que seja improvável que falhe em um robô implantado que esteja trabalhando sozinho no mundo real. Mesmo assim, haverá falhas, e leva muitos mais anos para sacudir as áreas problemáticas e construí-las no produto do robô de forma defensiva para que a falha não aconteça novamente.
A maioria dos robôs requer botões de desligamento ou estops para que um humano possa desligá-los. Se um cliente alguma vez sentir a necessidade de apertar esse botão, então as pessoas que construíram e venderam o robô falharam. Elas não o fizeram operar bem o suficiente para que o robô nunca chegue a um estado em que as coisas estejam indo tão mal.
Artigos do seu site
Artigos relacionados na Web
