Fotos e vídeos falsos: “O Estado da Arte”
12/01/2018 às 3:58 | Publicado em Artigos e textos, Zuniversitas | 2 ComentáriosTags: Ética, ciência, filosofia, Tecnologia
Produzir fotos e vídeos falsos não é coisa nova. Novo é o uso de Inteligêcia Artificial e a rapidez com que se consegue, de forma fácil, fabricar imagens e vídeos falsos com qualidade. Nesse post publico dois artigos a esse respeito. E, lógico, a discussão ética se faz necessária.
Tecnologia permite transferir expressões faciais em vídeo em tempo real
Pesquisadores criaram um programa de modificação de vídeo capaz de transferir as expressões faciais de uma pessoa para outra em tempo real. Nada melhor para explicar essa tecnologia do que o clichê: é preciso ver para crer.
O projeto é uma colaboração entre pesquisadores da Universidade de Erlangen-Nuremberga e do Instituto Max Planck, ambos localizados na Alemanha, e da Universidade de Stanford, dos Estados Unidos. O estudo intitulado “Transferência de expressão em tempo real para reconstrução facial” teve suas primeiras imagens divulgadas há cerca de um mês.
De acordo com os pesquisadores, a novidade do seu método reside na “transferência e na renderização fotorrealística das deformações faciais e detalhes para o vídeo alvo, de modo que as expressões recém-sintetizadas sejam visualmente indistinguíveis do vídeo real”.
Para capturar com precisão as expressões faciais dos indivíduos de origem e destino em tempo real, eles utilizaram sensores RGB-D. Com isso, é possível identificar modelos paramétricos para a identidade, expressão e cor da pele para organizar dados como cores, profundidade e também para reconstituir a iluminação da cena.
Para transferir a expressão facial, é preciso calcular a diferença entre as expressões de origem e destino e modificar os parâmetros do alvo para coincidir com as expressões do primeiro indivíduo. Um exemplo de utilização desta tecnologia é a aplicação de expressões e voz em tradutores, tornando a imagem mais natural durante uma dublagem, por exemplo.
Fonte: Universidade de Stanford
FONTE: https://canaltech.com.br/produtos/tecnologia-permite-transferir-expressoes-faciais-em-video-em-tempo-real-51127/
Estamos todos fodidos: a IA agora cola rosto de qualquer um em vídeos pornô
VICE BrasilThiago “Índio” Silva · 12/12/2017
Está rolando um vídeo da atriz Gal Gadot transando com seu meio-irmão na internet, mas há um detalhe: não é o corpo de Gadot. Trata-se de uma colagem do rosto da artista com corpo não tão destoante do dela em uma cena incestuosa pré-existente.
O vídeo foi criado com auxílio de um algoritmo de machine learning. O criador da peripécia usou materiais de fácil acesso e comandos de código aberto que qualquer um com o mínimo de conhecimento sobre a tecnologia pode fazer.
Trecho do vídeo completo, hospedado no SendVids, com o rosto de Gal Gadot no corpo de uma atriz pornográfica.
O material não engana ninguém que o analisa comcuidado. Por vezes o rastreamento dos movimentos faciais não funciona muito bem e rola aquele lance meio uncanny valley. Olhando de primeira, porém, a coisa até que funciona. Ainda mais se levarmos em consideração de que se trata do trabalho de uma única pessoa – um usuário do Reddit chamado ‘deepfakes’ – não um estúdio enorme capaz de recriar uma jovem Princesa Leia em Rogue One com auxílio de CGI.
O usuário, aliás, usa ferramentas de machine learning de código aberto tais como o TensorFlow, disponibilizado pelo Google gratuitamente para pesquisadores, universitários e qualquer um com interesse em machine learning.
Como aquela ferramenta da Adobe que faz com que as pessoas falem qualquer coisa e o algoritmo Face2Face capaz alterar um vídeo gravado com monitoramento facial em tempo real, este novo modelo de pornografia falsa mostra que estamos prestes a viver em mundo em que será ridiculamente simples criar vídeos críveis de gente fazendo e falando coisas que nunca de fato fizeram. Incluindo sexo.
Até então, deepfakes postou vídeos pornográficos com os rostos de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot no Reddit. Entrei em contato com os representantes e agências dessas atrizes, informando sobre os vídeos falsos e atualizarei a matéria caso me respondam.
Pornografia forjada de celebridades em que imagens são editadas para se assemelharem a famosos sem roupa já não é novidade há tempos. Seus adeptos são muitos. O próprio deepfakes possui grandes fãs de seu trabalho. Ele é, afinal, o pioneiro.
“Não é mais tão complicado assim.”
De acordo com deepfakes – que não quis revelar sua identidade para evitar escrutínio público – o software tem como base diversas bibliotecas de código aberto, tais como Keras com backend TensorFlow. Para compilar os rostos das celebridades, deepfakes afirma ter utilizado fontes como a busca de imagens do Google, bancos de imagens e vídeos no YouTube. O deep learning consiste de redes de pontos conectados que rodam processos em cima dos dados que foram inseridos. Neste caso, ele treinou o algoritmo com vídeos pornograficos e o rosto de Gal Gadot e, após este “treinamento”, os pontos se organizaram de forma a completar uma tarefa específica como manipular vídeo em tempo real.
O pesquisador especializado em inteligência artificial Alex Champandard me disse via email que uma placa de vídeo boa, acessível ao consumidor comum, poderia processar este tipo de efeito em algumas horas, mas até mesmo um processador comum, sem placa de vídeo, poderia fazer o mesmo, ainda que de forma mais lenta, ao longo de dias.
“Não é mais tão complicado assim”, disse Champandard.
A facilidade com que se pode fazer algo do tipo assusta: deixando de lado toda a técnica envolvida, só seriam necessárias algumas fotos suas, coisas que muito de nós já fornecemos numa boa ao auxiliar na criação de gigantescos bancos de dados de nossos próprios rostos. (Vale lembrar: são 24 bilhões de selfies foram postadas no serviço de fotos do Google entre 2015 e 2016.) É de se considerar a possibilidade de um programador amador rodar um algoritmo de forma a criar uma sex tape de algum desafeto.
Em conversa por email, deepfakes comentou não ser um pesquisador profissional do ramo, e sim apenas um programador interessado em machine learning.
“Apenas encontrei uma forma inteligente de fazer trocas de rostos”, afirma, ao falar de seu algoritmo. “Com centenas de imagens de rostos, posso gerar com facilidade milhões de imagens distorcidas para treinar a rede. Depois disso, insiro o rosto de outra pessoa na rede e ela achará que se trata de mais uma imagem distorcida, então tentará fazê-la se parecer com o rosto utilizado nos treinos.”
Em postagem no Reddit, deepfakes mencionou estar usando umalgoritmo semelhante ao desenvolvido por pesquisadores da Nvidia que vale-se de deep learning para, por exemplo, transformar uma cena de verão em uma cena de inverno rapidamente. Os pesquisadores, por sua vez, negaram-se a comentar esta possível aplicação.
Os resultados estão longe de serem perfeitos nos exemplos postados por deepfakes. No vídeo de Gadot, por exemplo, há momentos em que uma caixa surge ao redor de seu rosto em que é possível ver a imagem original, assim como seus olhos e boca não batem com o que a atriz está falando – mas se você estiver disposto a crer, poderia muito bem ser Gadot. Em outros vídeos, o trabalho de deepfakes é ainda mais convincente.
A atriz pornográfica Grace Evangeline me disse via mensagem direta no Twitter que atrizes do ramo estão acostumadas a terem seu trabalho distribuídos gratuitamente por aí em sites como o SendVid, onde se encontra o vídeo de Gadot, sem sua permissão, mas que desta vez era algo diferente, algo que ela nunca havia visto.
“Algo importante que sempre tem que estar presente é o consentimento”, disse Evangeline. “Consentimento na vida privada e também em filmes. Criar falsas cenas de sexo com celebridades tira delas o direito ao consentimento, é errado.”
Mesmo para quem vive diante das câmeras, a violação de limites pessoais é problemática. Mostrei o vídeo à Alia Janine, atriz pornográfica aposentada há 15 anos. “É perturbador”, comentou ao telefone. “Mostra como alguns homens encaram mulheres apenas como objetos que podem manipular e forçar a fazer o que bem entendem… É um desrespeito total com os atores e atrizes do filme, bem como as atrizes em questão.”
Perguntei a deepfakes se ele já havia parado para refletir sobre as implicações éticas de sua tecnologia, se ele havia pensado em questões como consentimento, revenge porn e chantagem ao criar este algoritmo. Eis a resposta:
“Toda e qualquer tecnologia pode ser usada com motivações ruins, é impossível impedir isso”, comentou, comparando seu trabalho ao da tecnologia que recriou Paul Walker após sua morte no filme Velozes e Furiosos 7. “A principal diferença é como é fácil qualquer um fazer isso. Não acho que seja ruim para pessoas comuns começarem a mexer com pesquisas em machine learning.”
Em termos éticos, as implicações são “enormes”, de acordo com Champandard. O uso malicioso da tecnologia não pode ser evitado, mas rebatido de alguma forma.
“Precisamos ter um debate público sobre o tema em alto e bom som”, disse. “Todos precisam saber como é fácil criar vídeos e imagens falsas, ao ponto de que será difícil determinar o que é falso ou não em poucos meses. Claro que tudo isso já era possível há tempos, mas seriam necessários muitos recursos e profissionais envolvidos, e hoje tudo pode ser feito por um único programador com um computador relativamente novo.”
Champandard disse que pesquisadores já podem começar a desenvolver tecnologia para detecção de vídeos falsos, de forma a ajudar a determinar o que é real ou não. Já as regulamentações de internet podem ser alteradas de forma a moderar o que acontece quando tal tipo de material forjado e abusos ligados a este surgirem.
“De uma forma bem esquisita, trata-se de algo bom”, comentou Champandard. “É uma questão de focar em transformar a sociedade para que possa lidar com isso.”
Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD.
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook , Twitter e Instagram .
FONTE: https://newsstand.google.com/articles/CAIiEH5KPMo8uwGHv9U652vjvp4qGAgEKg8IACoHCAow56LTATC7wjUw596aAg
O lado negro do FACEBOOK
25/06/2015 às 3:52 | Publicado em Artigos e textos, Zuniversitas | Deixe um comentárioTags: Ética, Internet, segurança da informação, Tecnologia
Sobre o Facebook eu já fiz alguns posts alertando os mais incautos dos seus perigos. Neste mês, a revista SUPERINTERESSANTE mostra dois bons artigos onde se pode constatar que a maior das redes sociais não é apenas perigosa, é também mentirosa! Vale a pena conferir ! A seguir posto o primeiro deles, o segundo, sobre a mentira dos ‘Likes’, vocês podem pegar na revista impressa nas bancas ou baixar na Internet (ou me mandar um email que eu envio a versão que tenho em .pdf – joserosafilho@hotmail.com)
ÉTICA: “O Zé é meu amigo, mexeu com ele, mexeu comigo!”
12/06/2013 às 3:07 | Publicado em Artigos e textos | 2 ComentáriosTags: Ética, direito, filosofia
Ética, um dos melhores textos que li sobre este tema. Eu também não aceito nem considero normal o que vejo no dia-a-dia, como o autor. Interessante também é pensar onde se aprende e se pratica ética. Na escola ? Na família ? No trabalho ? Em nenhum lugar desses e em todos eles !
ÉTICA (Roberto da Matta)
Quando o hígido Michel Temer vira poeta e Renan Calheiros — acusado pela Procuradoria Geral da República de peculato, falsidade ideológica e uso de documento falso — é apossado (com voto secreto — o voto da covardia) na presidência do Senado Federal no posto número três da sucessão republicana e entra no papel dando uma aula de ética e com apoio do PSDB, um lado meu pergunta ao outro se não estaria na hora de sumir do Brasil.
Se não seria o momento de pegar o meu chapéu e de deixar de escrever, abandonar o ensino das antropologias, desistir do trabalho honesto, beber fel, tornar-me um descrente, aloprar-me, abandonar a academia (de ginástica, é claro), deixar-me tomar pela depressão, desistir de sonhar, aniquilar-me, andar de joelhos, dar um tiro no pé, filiar-me a uma seita de suicidas, mijar sentado, avagabundar-me, virar puxa-saco, fazer da mentira a minha voz; e — eis o sentimento mais triste — deixar de amar, de imaginar, de ambicionar e de acreditar.
Abandonar-me a esse apavorante cinismo profissional que toma conta do país — esse inimigo da inocência — porque minha quota de ingenuidade tem sido destroçada por esses eventos.
Eu não posso aceitar viver num país que legaliza a ilegalidade, tornando-a um valor. Eu não posso aceitar um conluio de engravatados que vivem como barões às custas do meu árduo trabalho.
“A ética não é um objetivo em si mesmo. O objetivo em si mesmo é o Brasil, é o interesse nacional. A ética é obrigação de todos nós e é dever deste Senado”, professa Renan Calheiros, na sua preleção de po(s)se.
Para ele, a ética, o Brasil, o dever, o interesse, e as obrigações são coisas externas. Algo como a gravata italiana que chega de fora para dentro e pode ou não ser usada. Façamos uma lei que torne todo mundo ético e, pronto!, resolvemos o problema da cena política brasileira — esse teatro de calhordices.
A ética não é a lei. A lei está escrita no bronze ou no papel, mas a ética está inscrita na consciência ou no coração — quando há coração… Por isso ela não precisa de denúncias de jornais, nem de sermões, nem de demagogia, nem da polícia!
A lei precisa da polícia, o moralismo religioso carece dos santarrões, e as normas de fiscais. A ética, porém, requer o senso de limites que obriga a mais dura das coragens: a de dizer não a si mesmo e, no caso desse Brasil impaludado de lulopetismo, a de negar o favor absurdo ou criminoso à namorada, ao compadre, ao companheiro, ao irmão, ao amigo.
“O Zé é meu amigo, mexeu com ele, mexeu comigo!”, eis a cínica palavra de ordem de um sistema totalmente aparelhado e dominado pelo poder feito para enriquecer que usa, sem compostura, o toma lá dá cá com tonalidades pseudoideológicas, emporcalhando a ideologia.
Quem é que pode acreditar na possibilidade de construir um mundo mais justo e igualitário no qual a esfera pública, tocada com honestidade, é um ideal, com tais atores? Justiça social, honestidade, retidão de propósito são valores que formam parte da minha ideologia; são desígnios que acredito e quero para o Brasil.
Ver essa agenda ser destruída em nome dos que tentaram comprar apoio político e hoje se dizem vitimas de um complô fascista, embrulha o meu estômago. Isso reduz a pó qualquer agenda democrática para o Brasil.
O cínico — responde meu outro lado — precisa (e muito) de polícia; o ético tem dentro de si o sentido da suficiência moral. Ela ou ele sabem que em certas situações somente o sujeito pode dizer sim (ou não!) a si mesmo.
Isso eu não faço, isso eu não aceito, nisso eu não entro. É simples assim. A camaradagem fica fora da ética cujo centro é o povo como figura central da democracia.
O que vemos está longe disso. Um eleito condenado pelo STF é empossado deputado, Maluf — de volta ao proscênio — sorri altaneiro para os fotógrafos, um outro companheiro com um passado desabonado por acusações vai ser eleito presidente da Câmara; a presidente age como a Rainha Vitória. E o Direito: o correto e o honesto, viram “direita”.
Entrementes, a “esquerda” tenta desmoralizar a Justiça porque não aceita limites nem admite abdicar de sua onipotência. Articula-se objetivamente, com uma desfaçatez alarmante, uma crise entre poderes exatamente pela mais absoluta falta de ética, esse espírito de limite ausente dos donos do poder neste Brasil de conchavos vergonhosos e inaceitáveis.
Você, leitor pode aceitar e até considerar normal. Eu não aceito!
Degradação do Judiciário por Dalmo de Abreu Dallari
06/06/2012 às 3:01 | Publicado em Artigos e textos | 3 ComentáriosTags: Ética, direito, Justiça
Diante de mais esta crise na cúpula do Judiciário, provocada por Gilmar, publico esse excelente texto do jurista Dalmo de Abreu Dallari. Como podem ver, o artigo é antigo, porém atualíssimo !
Degradação do Judiciário 
DALMO DE ABREU DALLARI (publicado em 08.05.2002, na Folha de S. Paulo)
Nenhum Estado moderno pode ser considerado democrático e civilizado se não tiver um Poder Judiciário independente e imparcial, que tome por parâmetro máximo a Constituição e que tenha condições efetivas para impedir arbitrariedades e corrupção, assegurando, desse modo, os direitos consagrados nos dispositivos constitucionais.
Sem o respeito aos direitos e aos órgãos e instituições encarregados de protegê-los, o que resta é a lei do mais forte, do mais atrevido, do mais astucioso, do mais oportunista, do mais demagogo, do mais distanciado da ética.
Essas considerações, que apenas reproduzem e sintetizam o que tem sido afirmado e reafirmado por todos os teóricos do Estado democrático de Direito, são necessárias e oportunas em face da notícia de que o presidente da República, com afoiteza e imprudência muito estranhas, encaminhou ao Senado uma indicação para membro do Supremo Tribunal Federal, que pode ser considerada verdadeira declaração de guerra do Poder Executivo federal ao Poder Judiciário, ao Ministério Público, à Ordem dos Advogados do Brasil e a toda a comunidade jurídica.
Se essa indicação vier a ser aprovada pelo Senado, não há exagero em afirmar que estarão correndo sério risco a proteção dos direitos no Brasil, o combate à corrupção e a própria normalidade constitucional. Por isso é necessário chamar a atenção para alguns fatos graves, a fim de que o povo e a imprensa fiquem vigilantes e exijam das autoridades o cumprimento rigoroso e honesto de suas atribuições constitucionais, com a firmeza e transparência indispensáveis num sistema democrático.
Segundo vem sendo divulgado por vários órgãos da imprensa, estaria sendo montada uma grande operação para anular o Supremo Tribunal Federal, tornando-o completamente submisso ao atual chefe do Executivo, mesmo depois do término de seu mandato. Um sinal dessa investida seria a indicação, agora concretizada, do atual advogado-geral da União, Gilmar Mendes, alto funcionário subordinado ao presidente da República, para a próxima vaga na Suprema Corte. Além da estranha afoiteza do presidente — pois a indicação foi noticiada antes que se formalizasse a abertura da vaga –, o nome indicado está longe de preencher os requisitos necessários para que alguém seja membro da mais alta corte do país.
É oportuno lembrar que o STF dá a última palavra sobre a constitucionalidade das leis e dos atos das autoridades públicas e terá papel fundamental na promoção da responsabilidade do presidente da República pela prática de ilegalidades e corrupção.
É importante assinalar que aquele alto funcionário do Executivo especializou-se em “inventar” soluções jurídicas no interesse do governo. Ele foi assessor muito próximo do ex-presidente Collor, que nunca se notabilizou pelo respeito ao direito. Já no governo Fernando Henrique, o mesmo dr. Gilmar Mendes, que pertence ao Ministério Público da União, aparece assessorando o ministro da Justiça Nelson Jobim, na tentativa de anular a demarcação de áreas indígenas.
Alegando inconstitucionalidade, duas vezes negada pelo STF, “inventaram” uma tese jurídica, que serviu de base para um decreto do presidente Fernando Henrique revogando o decreto em que se baseavam as demarcações. Mais recentemente, o advogado-geral da União, derrotado no Judiciário em outro caso, recomendou aos órgãos da administração que não cumprissem decisões judiciais.
Medidas desse tipo, propostas e adotadas por sugestão do advogado-geral da União, muitas vezes eram claramente inconstitucionais e deram fundamento para a concessão de liminares e decisões de juízes e tribunais, contra atos de autoridades federais.
Indignado com essas derrotas judiciais, o dr. Gilmar Mendes fez inúmeros pronunciamentos pela imprensa, agredindo grosseiramente juízes e tribunais, o que culminou com sua afirmação textual de que o sistema judiciário brasileiro é um “manicômio judiciário”.
Obviamente isso ofendeu gravemente a todos os juízes brasileiros ciosos de sua dignidade, o que ficou claramente expresso em artigo publicado no “Informe”, veículo de divulgação do Tribunal Regional Federal da 1ª Região (edição 107, dezembro de 2001). Num texto sereno e objetivo, significativamente intitulado “Manicômio Judiciário” e assinado pelo presidente daquele tribunal, observa-se que “não são decisões injustas que causam a irritação, a iracúndia, a irritabilidade do advogado-geral da União, mas as decisões contrárias às medidas do Poder Executivo”.
E não faltaram injúrias aos advogados, pois, na opinião do dr. Gilmar Mendes, toda liminar concedida contra ato do governo federal é produto de conluio corrupto entre advogados e juízes, sócios na “indústria de liminares”.
A par desse desrespeito pelas instituições jurídicas, existe mais um problema ético. Revelou a revista “Época” (22/4/ 02, pág. 40) que a chefia da Advocacia Geral da União, isso é, o dr. Gilmar Mendes, pagou R$ 32.400 ao Instituto Brasiliense de Direito Público — do qual o mesmo dr. Gilmar Mendes é um dos proprietários — para que seus subordinados lá fizessem cursos. Isso é contrário à ética e à probidade administrativa, estando muito longe de se enquadrar na “reputação ilibada”, exigida pelo artigo 101 da Constituição, para que alguém integre o Supremo.
A comunidade jurídica sabe quem é o indicado e não pode assistir calada e submissa à consumação dessa escolha notoriamente inadequada, contribuindo, com sua omissão, para que a arguição pública do candidato pelo Senado, prevista no artigo 52 da Constituição, seja apenas uma simulação ou “ação entre amigos”. É assim que se degradam as instituições e se corrompem os fundamentos da ordem constitucional democrática.
Dalmo de Abreu Dallari, 70, advogado, é professor da Faculdade de Direito da USP. Foi secretário de Negócios do município de São Paulo (administração Luiza Erundina).
Assine este site
Desenhos e Artes
Pelo mundão afora…
Gravatar
"Um grama de ação vale uma tonelada de teoria" (Engels)
"A prática é o único critério da verdade" (Lenin)
"A História da sociedade até aos nossos dias é a História da luta de classes" (Marx)
Blog no WordPress.com.
Entries e comentários feeds.
ZÉducando 