Estão a ser criados algoritmos e bots que fazem compras de forma mais ou menos aleatória. De quem será a responsabilidade de tais ações?
Em Outubro do ano passado, um algoritmo começou a ir às compras. Ele recebia $100 em bitcoins todas as quartas-feiras, e começou à procura de mercadorias no mercado seleccionando uma, eventualmente, de forma aleatória. Este objeto era, então, pago e enviado para a Suíça, para o estúdio da !Mediengruppe Bitnik. Lá, os artistas Domagoj Smoljo e Carmen Weisskopf abriam os pacotes, e colocavam o seu conteúdo e embalagens em pequenas tinas, para as pessoas verem.
O algoritmo, chamado Random Darknet Shopper, adquiriu 12 itens – tudo desde um par de sapatos Air Jordan a uma digitalização de um passaporte húngaro, a 10 comprimidos de ecstasy. E foi tudo funcionando perfeitamente até Janeiro. O dia depois que desmontarem a exposição que reunia os itens que o seu bot tinha comprado, a polícia suíça "prendeu" o robot, apreendeu o computador, e confiscou os itens que ele tinha comprado. "Parece que o propósito da apreensão é de impedir um comprometimento de terceiros por causa das drogas apresentadas, destruindo-as," alguém da !Mediengruppe Bitnik escreveu no seu blog.
Em Abril, no entanto, o bot foi libertado juntamente com tudo o que tinha comprado, exceto o ecstasy, e os artistas foram declarados inocentes de qualquer irregularidade. Mas a prisão fez com que muitos se perguntassem exatamente onde está a linha entre a culpabilidade humana e a do computador.
Este não é o primeiro algoritmo aleatório que faz compras por aí – as pessoas andam a brincar com esses tipos de bots há já algum tempo. Mas a maioria das pessoas que constroi estes bots ficam em sites bem conhecidos como a Amazon ou o eBay. Weisskopf diz que queria mergulhar na darknet por um par de razões.
"Vemos a internet como uma parte muito importante da nossa prática artística – nós trabalhamos com e na internet."
Mas a equipa também se interessou pelas maneiras como a Internet é usada pelos governos e sujeita a vigilância constante. Eles apontam para as revelações de Snowden como um importante ponto de viragem no seu trabalho.
Em resposta, Weisskopf e Smoljo decidiram começar a investigar o lado mais obscuro da web. "Nós tornámo-nos realmente interessados na confiança. Como confiar nas pessoas quando elas são anônimas? São apenas um fio de nós", diz ela. "Estamos decididos a olhar para os mercados porque os mercados estão em necessidade de confiança. Não pode simplesmente enviar dinheiro a alguém esperando que lhe enviem bens".
E assim foi desenvolvido e libertado o Random Darknet Shopper." A idéia era ter uma paisagem de itens da darknet como exemplos do que pode esperar lá encontrar", disse Weisskopf. Com base no histórico de compras do robot, pode encontrar todos os tipos de coisas: Air Jordans da China, jeans Diesel, uma carta de despiste do "Abington Bank", um boné de baseball com uma câmera escondida na frente, um cartão de crédito Visa Platinum, cigarros Chesterfield e muito mais.
Weisskopf diz que não estava particularmente surpresa com o interesse da polícia. "Falámos com um advogado antes de começar com a peça, porque sabíamos que muitos dos itens que se encontram nestes mercados são, obviamente, coisas que por um motivo ou outro não são vendidos em outros lugares na internet", diz ela. O advogado, no entanto, apontou que na Suíça, o princípio da liberdade nas artes permite que artistas violem certas leis nas suas explorações. (Embora essa linha de raciocínio não se aplique a artistas em toda parte.)
A questão de quão culpado um robot ou um algoritmo pode ser não é nova, diz Burkhard Schafer, professor de teoria jurídica computacional na Universidade de Edimburgo. Para o momento, a questão da responsabilidade não deve ser diferente do que um ferimento causado por um berbequim elétrico.
"Nós decidimos que é culpa do proprietário, ou do fabricante", diz Burkhard – não da própria broca. "Os robots não alteram dramaticamente a imagem."
Fundamentalmente, os robots são as criações de seres humanos. Eles executam as ordens que lhes damos. Enquanto isso não mudar, as ações que eles realizam são, portanto, a responsabilidade dos seres humanos que os criaram. Torna-se um pouco mais complicado com robots inteligentes, ou algoritmos que podem aprender, e que podem fazer algo que os seus criadores não esperavam. Mas Schafer diz que mesmo nesses casos, os criadores geralmente são responsabilizados.
Schafer assinala que já temos mais ou menos um quadro jurídico que poderia trabalhar para robots inteligentes: as leis que se aplicam aos cães.
"Normalmente a resposta é que se colocar algo perigoso no ambiente ainda é responsável por isso", diz ele.
As pessoas que possuem cães estão bem conscientes de que não podem controlar cada ação do seu cão. Mas, ao mesmo tempo, se alguém tem um cão que é perigoso, é da sua responsabilidade proteger os outros do cão. "Contando que era previsível para si que algo que possui ia causar danos, mesmo que não pudesse prever o prejuízo e danos específicos, é responsável por isso", diz ele. E os cães são muito mais capazes, criativos e inteligentes do que qualquer sistema de computador inventado até agora.
Mesmo que a conversa legal seja a mesma, as nossas reações viscerais a um crime que envolve um robot sofisticado que faz compras podem ser muito diferentes quando o compara a um acidente envolvendo uma broca ou uma escada, por exemplo. Especialmente quando o robot foi feito para agir e soar como uma pessoa. Weisskopf diz que, apesar de o Random Darknet Shopper ter sido simplesmente um algoritmo executado por um computador, os visitantes ainda queriam transformá-lo em uma entidade viva.
"Não é uma peça inteligente de software, não, absolutamente, não pode aprender, todas essas coisas que alguns softwares realmente poderiam fazer, ele não pode. Mas comporta-se como um ser humano, e os visitantes olhavam para a recolha destes 12 itens e tentavam pensar na personalidade do cliente", diz ela. "O que eu acho que é muito tipicamente humano fazer."
Os artistas Bitnik têm mais alguns projetos planeados que também vasculham estas perguntas. Eles querem tentar operar o comprador fora da Suíça, para ver se os resultados e as reacções diferem. Quão rapidamente iria a polícia dos Estados Unidos desligá-lo? Como é que as autoridades indianas reagiriam? "Nós achamos bastante interessante", diz Weisskopf, "ter estas perguntas das diferentes jurisdições e direitos de autor, é difícil ter diferentes leis em diferentes países porque os itens estão globalmente acessíveis."
Em última análise, os Bitnik estão à espera de fazer mais projetos como este que levantam perguntas não apenas sobre o que está acessível na darknet, mas como é fácil obtê-las, e porquê. "Nós estamos interessados nas responsabilidades dos bots ou software, mas também em questões de anonimato e de vigilância em massa", diz Weisskopf. "Como é que queremos que estes mundos digitais sejam no futuro? O que queremos fazer com eles, o que é que pensamos que deve ser possível?"