A inteligência artificial está avançando rapidamente, mas até que ponto ela pode impactar nossa própria inteligência? Em mais uma edição do Fala Aí!, Roberto Pena Spinelli, especialista em Machine Learning, discute os achados de um estudo da Carnegie Mellon University que sugere que a confiança excessiva na IA pode diminuir o pensamento crítico e a autonomia humana.
Enquanto a IA pode aumentar a produtividade em diversas tarefas, o uso sem critério levanta preocupações sobre o enfraquecimento de habilidades cognitivas. Pena compara a situação com o uso da calculadora, argumentando que delegar certas funções para a IA pode liberar nossa cognição para outras atividades. No entanto, ele alerta que, assim como um músculo, o cérebro e o pensamento crítico podem atrofiar se não forem exercitados.
Além dos impactos cognitivos, o especialista também aborda a ascensão do cinema "pós-humano" com filmes estrelados por atrizes criadas por IA, questionando se essa tendência é um avanço tecnológico ou apenas uma moda passageira. A discussão se aprofunda sobre até onde aceitaremos a IA na tomada de decisões, inclusive em cargos empresariais de alto escalão.
#InteligenciaArtificial #PensamentoCritico #TecnologiaIA
Enquanto a IA pode aumentar a produtividade em diversas tarefas, o uso sem critério levanta preocupações sobre o enfraquecimento de habilidades cognitivas. Pena compara a situação com o uso da calculadora, argumentando que delegar certas funções para a IA pode liberar nossa cognição para outras atividades. No entanto, ele alerta que, assim como um músculo, o cérebro e o pensamento crítico podem atrofiar se não forem exercitados.
Além dos impactos cognitivos, o especialista também aborda a ascensão do cinema "pós-humano" com filmes estrelados por atrizes criadas por IA, questionando se essa tendência é um avanço tecnológico ou apenas uma moda passageira. A discussão se aprofunda sobre até onde aceitaremos a IA na tomada de decisões, inclusive em cargos empresariais de alto escalão.
#InteligenciaArtificial #PensamentoCritico #TecnologiaIA
Categoria
🤖
TecnologiaTranscrição
00:00E como hoje é terça-feira, chegou a hora já da nossa coluna Fala Aí!
00:12E vamos receber Roberto Pena Spinelli, aqui participando de mais uma coluna Fala Aí!
00:20Ele que é especialista em Machine Learning por Stanford, colunista aqui do Olhar Digital. Vamos lá!
00:26Olá Pena, muitíssimo boa noite, seja bem-vindo!
00:31Tudo bem Marisa, boa noite, como é que você está? Tudo bem pessoal?
00:35Tudo ótimo Pena, um beijo para você, bom tê-la aí! Vamos lá, vamos continuar aqui com as nossas Fala
00:42Aí!
00:42Com assuntos interessantíssimos, já quero começar com um bem bacana.
00:46Estudos recentes indicam que a inteligência artificial pode aumentar a produtividade em diversas tarefas,
00:54mas que o seu uso sem critérios pode enfraquecer habilidades cognitivas
01:00e até dificultar a resolução de problemas sem o auxílio da tecnologia.
01:07Pena, até que ponto isso representa uma ameaça real à autonomia humana?
01:13Então Marisa, a gente ainda não sabe os efeitos desse tipo de tecnologia a longo prazo.
01:20Então esse estudo é muito interessante porque ele lançou alguma luz,
01:25mas eu já quero também avisar de que a gente não pode tomar conclusões muito rápidas.
01:29Então é um estudo feito pela Carnegie Mellon University,
01:33e basicamente os pesquisadores perguntaram para muitas pessoas qual a confiança que essas pessoas tinham
01:41no uso da IA, nas respostas geradas pela IA,
01:44e qual a confiança essas pessoas tinham no próprio julgamento a partir daí.
01:51Então é muito mais um estudo sobre a própria experiência das pessoas.
01:59Então as pessoas auto-reportam a própria sensação.
02:04Então o que ele mostrou é que de fato pessoas que confiam muito na IA
02:09tendem a baixar a própria confiança no seu julgamento
02:14e muitas vezes acabar tendo, ou reportar, tendo um menor uso desse pensamento crítico.
02:22O que é algo preocupante, de fato.
02:24Se a pessoa está dizendo, olha, eu estou delegando para a IA,
02:27muita coisa que eu costumava antes pensar comigo mesmo, enfim.
02:33E agora a IA já responde, já confio, já é isso aí.
02:36Se a IA disse, está valendo.
02:39Então primeiro, é auto-reportado.
02:41As pessoas estão dizendo.
02:42Não quer dizer que elas perderam necessariamente essa cognição.
02:47E pode ser que a gente não sabe os efeitos reais,
02:50não for medido realmente se houve uma perda de capacidade cognitiva,
02:55de pensamento crítico.
02:56Mas basta de fato as pessoas estarem dizendo,
02:59olha, eu já estou confiando mais e tal.
03:02Por outro lado, será que isso é necessariamente ruim?
03:05Porque, veja, vou dar o exemplo da calculadora.
03:09Não sei se é o melhor exemplo, mas enfim.
03:11No momento que as pessoas começam a confiar na calculadora
03:14para dar a resposta da conta matemática,
03:17é normal que elas parem de, antes, ter aquelas mesmas habilidades
03:21de fazer um monte de conta matemática,
03:23porque ela já confia na calculadora.
03:25Então é meio que natural.
03:27Nesse caso, não é muito um problema,
03:29visto que você vai ter a calculadora,
03:31tecnicamente, a todo momento no seu bolso,
03:33seja no seu celular ou se você trabalha com isso,
03:35vai ter uma calculadora.
03:37Então talvez seja até bom para que o cérebro da pessoa,
03:40a pessoa possa gastar mais cognição
03:43em outras atividades,
03:44já que a calculadora foi resolvida.
03:46Então tem um pouco desse pensamento,
03:48olha, se resolver esse problema e a já resolve,
03:51não quer dizer que eu vou baixar minha cognição
03:53porque eu deleguei para ela.
03:55Eu vou poder gastar mais tempo em outra coisa
03:57que ela não resolve.
03:59Então, veja, não necessariamente é ruim.
04:01Mas por isso, Marisa,
04:03que ainda é uma coisa para a gente ficar alerta.
04:05Porque assim como um músculo que também trabalha pouco
04:08vai degradando, vai atrofiando,
04:13o cérebro e nosso pensamento crítico também,
04:15talvez seja um músculo nesse sentido.
04:18E a gente pode ser que seja uma das coisas muito valiosas
04:20que a gente não quer perder nem se a IA fizer bem.
04:23Então ainda é algo para a gente ponderar.
04:26O que importa é que isso tudo está dizendo,
04:27pelo menos as pessoas reportando,
04:29estão dizendo que estão menos críticas
04:32às respostas quando elas confiam
04:33que a IA já está fazendo o serviço por elas.
04:37Olha que coincidência, viu, Pena?
04:39Mesmo sem a gente combinar,
04:40eu ia justamente comentar sobre a calculadora.
04:43Só que tem uma diferença entre a calculadora e a IA.
04:46A calculadora te dá mesmo a resposta exata de uma conta.
04:50Já a IA, ela está sendo usada ali
04:53para te dar um direcionamento.
04:55Então é uma discussão boa essa mesmo.
04:57Até que ponto a gente vai permitir ou aceitar?
05:00E já está até aceitando bastante.
05:02Tem gente até que está colocando
05:03já as decisões de empresas, de rumos na IA.
05:10Diferente, assim,
05:11e deixando até de estudar ela mesma.
05:14Talvez o mercado já está colocando ali.
05:16Mas não é necessariamente uma coisa ruim.
05:18Você tem razão.
05:19É, assim, eu acho que vai acontecer
05:21de alguma empresa colocar um CEO
05:23ou alguma pessoa de alto cargo como IA
05:26em algum momento
05:27por uma avaliação de que a IA
05:30vai tomar decisões melhores
05:31do que a própria pessoa, o CEO.
05:33Eu acho que isso vai acontecer em algum momento, Marisa.
05:35E a gente precisa realmente
05:37pôr a prova, o teste da vida real
05:41para ver se no longo prazo
05:43isso foi uma boa ideia ou não.
05:45Mas então é isso.
05:46Eu acho que pode ser uma coisa boa por algum lado
05:49ou pode ser uma coisa muito preocupante por outro.
05:51A gente precisa esperar um pouco mais para ver.
05:54Beleza.
05:55Pena, vamos passar agora
05:57para o assunto entretenimento.
05:59Vamos lá.
06:00A produtora Particle 6
06:04anunciou que uma atriz
06:06criada por IA
06:07vai estrelar o filme Miss Align.
06:10Esse movimento marca o início
06:12de um cinema pós-humano,
06:14ou seja, vai virar mais comum
06:15ou é apenas uma moda, Pena?
06:17O que você acha?
06:19Olha, esse aí é algo que é muito interessante.
06:23Está repercutindo bastante.
06:25Então vamos lá.
06:25Essa atriz, é uma atriz feita por IA
06:27chamada Tilly Norwood.
06:30Ela não existe, né?
06:31Assim, como a gente entende,
06:33pessoas não é uma pessoa real.
06:35Ela foi criada por pessoas.
06:38Ela tem site.
06:40Então tem tillynorwood.com
06:41se você digitar e você cai num site.
06:44Esse site, enfim,
06:45é como se fosse de uma atriz mesmo.
06:47Você olha assim, né?
06:48Uma atriz e tal.
06:49Tem um clipe, inclusive.
06:51Você pode clicar no clipe
06:52e no clipe...
06:53Começa o clipe dizendo assim,
06:55foram 18 humanos,
06:57artistas,
06:58entre design de produção,
07:01de figurino,
07:02de programadores,
07:03de prompters,
07:03que criaram...
07:04e um ator, inclusive,
07:06que criaram essa atriz
07:09que não existe.
07:10Então já tem essa questão
07:12de, olha,
07:15por trás da C&A
07:16tem 18 pessoas, né?
07:19Então esse já é um ponto
07:20que eles tentam trazer.
07:21Mas enfim,
07:22essa atriz vai participar desse filme
07:25feito pela Particle 6
07:27e isso já levantou várias confusões
07:31ou polêmicas.
07:34o sindicato de atores de Hollywood
07:37disse que não reconhece
07:38essa atriz como uma atriz.
07:40Inclusive,
07:42condena esse uso
07:43porque foi feito em cima de,
07:45enfim,
07:45trabalho de um monte de pessoas.
07:49Acho que quando ele coloca trabalho
07:51no sentido de que foi treinado,
07:52nessas IAs foram treinadas
07:54em cima de atores reais
07:56e pessoas que talvez não foram compensadas
07:58ou que não autorizaram o seu uso.
08:00O que eu acho uma crítica
08:01bem válida mesmo
08:03desse tipo de coisa.
08:05Mas aí, por outro lado,
08:07olha que curioso,
08:07a história que esse filme,
08:09Misalign,
08:11representa,
08:12então a história é de justamente
08:14uma IA,
08:15uma personagem IA,
08:19que acaba sendo seduzida
08:21por um robô da Dark Web
08:23e ela vai se descobrindo
08:25com vontades,
08:26com desejos,
08:27com personalidade,
08:29vai ficando cada vez mais humana.
08:30Nesse processo de ficar mais humana,
08:32humanas entre aspas,
08:34ela vai ficando famosa
08:36e aí ela começa a sentir mal
08:38porque justamente ela foi,
08:40ela foi treinada
08:41por um grande esforço da humanidade.
08:43E veja,
08:44Marisa,
08:44que é quase como uma meta-história,
08:46aquela história
08:48sobre a própria coisa,
08:49porque é uma personagem IA
08:50interpretando uma pessoa IA
08:53que vai se descobrir
08:54e vai ficando famosa
08:56e aí nisso
08:57levanta uma questão
08:58sobre direitos
08:59que é exatamente o que está acontecendo.
09:00Então,
09:01de algum jeito,
09:03eu achei curiosa essa história.
09:05Quem está por trás,
09:06inclusive,
09:06dessa produtora
09:07é uma atriz?
09:08Eu não vou me lembrar exatamente
09:11o nome dela agora,
09:12mas não é uma atriz famosa,
09:14mas é alguém já
09:15da indústria do entretenimento,
09:18da arte de cinema.
09:23Mas o que que,
09:25no final,
09:25essa história toda?
09:26Primeiro que eu não sei de verdade
09:28se existe uma atriz por trás.
09:30O que eu quero dizer
09:31com uma atriz por trás?
09:32Vou pegar o exemplo
09:32do meu robô,
09:33o Zoltron,
09:34que às vezes já apareceu
09:34aqui no quadro.
09:35O Zoltron,
09:36de verdade, Marisa,
09:37ele tem uma persona.
09:39Ele foi criado com...
09:42Olha,
09:43ele tem, digamos,
09:44uma personalidade,
09:45uma consistência,
09:46ele é sarcástico.
09:48E eu não tenho roteiro.
09:49A gente grava vídeo
09:50com o Zoltron
09:51e, assim,
09:52vai aí,
09:53você atua.
09:53É como se eu estivesse
09:54falando com um humano.
09:55Eu dou liberdade
09:56para que ele fale
09:57as falas dele,
09:59para que ele use
09:59as palavras dele.
10:00Eu não fico...
10:01Eu não escrevo
10:02o roteiro dele,
10:03o texto dele.
10:04O que a gente não sabe
10:05é se essa atriz de Iá
10:07é realmente
10:07uma persona
10:08com personalidade,
10:10com vontade,
10:12ou idiosincrasias,
10:13com questões aí,
10:15e ela se permite atuar,
10:17ou seja,
10:17de algum jeito
10:17ela está atuando,
10:18ou não?
10:19É só um vídeo
10:20gerado por Iá
10:21que é consistente.
10:23A gente não sabe
10:24se é um asset digital,
10:26ou seja,
10:27não tem ninguém
10:28por trás ali
10:29nem fingindo
10:30que está atuando.
10:31É simplesmente
10:32seguindo aí
10:32a ordem
10:33das outras pessoas.
10:34Então,
10:34essa é a primeira discussão.
10:35a gente não sabe,
10:36eles não informaram.
10:37Mas a segunda questão,
10:38que talvez seja também
10:39bem relevante,
10:40é o quanto que
10:41um trabalho feito
10:42dessa maneira
10:43pode ser bacana
10:45ou condenável.
10:47Agora,
10:48o que eu achei interessante,
10:50que acho que é
10:50uma discussão bacana,
10:52é mesmo que seja
10:55feita,
10:55não tenha uma personagem
10:56da arte por trás
10:57e seja feito
10:58dessa maneira.
10:59Mas será que
11:0018 pessoas humanas
11:02por trás
11:03de criar
11:03essa personagem,
11:04será que isso
11:05não,
11:05de algum jeito,
11:06caracteriza como arte?
11:07Não que a personagem
11:09Iá seja
11:09uma artista,
11:10tá?
11:11Vamos tirar essa parte.
11:12Mas o fato
11:13de ser um filme
11:14que usou 18 pessoas
11:15para construir
11:16um asset digital,
11:18assim como você faz.
11:1918 pessoas
11:20podem fazer animações,
11:21podem fazer
11:22vários trabalhos
11:22no cinema.
11:23No caso,
11:24eles geraram
11:25vídeos
11:25com uma
11:28atriz,
11:29uma suposta atriz.
11:30Será que isso
11:31não tem um valor
11:32artístico?
11:32Porque a gente
11:33também costuma achar
11:34que fazer arte
11:36com Iá é assim,
11:37joga um prompt
11:38e sai pronto.
11:39E não é,
11:39não é nem parecido
11:40com isso.
11:41Para você realmente
11:42fazer um filme
11:43ou gerar uma consistência,
11:44tem muito trabalho
11:45de humano por trás
11:46para conseguir gerar
11:47aquela personagem,
11:48para que ela atua
11:49daquela maneira.
11:50Então,
11:50essa discussão,
11:51Marisa,
11:52é uma discussão
11:52dessas que
11:53não me cabe
11:55aqui responder,
11:55tá?
11:56Eu só estou jogando
11:57um pouco mais
11:57de perspectivas,
11:59porque acho que
12:00por um lado
12:01é preocupante
12:02a gente pensar
12:03que sim,
12:05né,
12:05está indo
12:06por um caminho
12:06que talvez
12:07infrige aí
12:08direitos e tal,
12:10mas por outro também
12:11é simplista
12:11achar que,
12:12ah,
12:13fazer arte
12:13com Iá,
12:14fazer coisas com Iá,
12:15se eu jogar um prompt
12:16e sair pronto
12:16e não tem valor nenhum,
12:18não tem esforço nenhum
12:19e nem arte nenhuma
12:20por trás.
12:21Pois é,
12:22mais perguntas
12:23até do que respostas,
12:24se vai dar certo,
12:26se não vai,
12:26bom,
12:27enfim.
12:28Vamos falar até aqui,
12:29falando ainda
12:30nessa questão
12:31da Iá,
12:32dessa confusão
12:33entre Iá e humanos,
12:34um outro estudo
12:35mostra que pessoas
12:37confiam mais
12:38em rostos
12:39gerados por Iá
12:41do que em rostos
12:42humanos.
12:43O que isso pode revelar
12:44sobre a nossa relação
12:46com a tecnologia,
12:47Pena?
12:47Será que é a ausência
12:48daquelas marcas
12:50de expressão?
12:51A Iá é mais bonita,
12:53então as pessoas
12:53confiam mais?
12:54O que você acha?
12:55Eu fiquei de cara
12:57com esse estudo,
12:58Marisa,
12:58porque a minha tendência
12:59natural era pensar
13:00ao contrário.
13:02Por quê?
13:03Se você gera rostos
13:04muito perfeitos,
13:06digamos,
13:06que não tenham marcas,
13:10que tenham uma simetria
13:11muito boa,
13:13nós, seres humanos,
13:14a gente é muito bom
13:15de perceber
13:16pequenos errinhos,
13:17coisas que não são naturais.
13:19Então, cai no que a gente
13:20chama de Vale da Estranheza.
13:22E quantos filmes
13:23tentaram,
13:24filmes ou peças publicitárias,
13:26tentaram colocar
13:26alguma coisa feita
13:29artificial e,
13:30nossa,
13:31para a gente,
13:32bate o olho e fala
13:33isso aqui não é natural,
13:34isso aqui,
13:34eu nem sei dizer o que é,
13:36mas às vezes é perfeito demais,
13:38às vezes tem alguma coisa
13:40estranha,
13:41que a gente cai no Vale da Estranheza
13:42e a reação humana
13:44é oposta,
13:44a gente tende
13:45a condenar muito,
13:46porque se algo
13:47é muito diferente
13:48do humano,
13:49tudo bem,
13:50um personagem caricato,
13:51um monte de animações
13:53que são feitas,
13:55como claramente
13:56são personagens
13:56de cartunescos,
13:58não tem problema,
13:59a gente gosta.
14:00Agora,
14:00quando você tenta fazer
14:01uma animação
14:01que é muito realista,
14:03mas não é exatamente real,
14:05cai no Vale da Estranheza.
14:06Então,
14:07quando eu vi esse estudo,
14:08eu pensei,
14:08nossa,
14:09para mim seria o contrário,
14:10os seres humanos
14:11iriam perceber
14:12essas pequenas
14:14essas pequenas
14:14perfeições demais
14:16e talvez
14:17cair no Vale da Estranheza.
14:18Mas não,
14:19então a primeira coisa
14:20que eu achei legal
14:20é que os humanos
14:21não sabem mais diferenciar.
14:23A primeira parte do estudo
14:24que eu achei até mais legal
14:25é qual desses rostos
14:27é AI e qual é humano?
14:28Já não sabe diferenciar.
14:31Tem uns,
14:31não,
14:31certeza que esse aqui é AI
14:32e não era,
14:33certeza que esse aqui é humano
14:34e não é.
14:35Então assim,
14:35o ser humano já está vendido,
14:37Marisa,
14:37a gente não sabe mais diferenciar.
14:38E a segunda coisa
14:40é que em média
14:41as pessoas acharam
14:42mais confiáveis
14:43os rostos feitos de AI.
14:46Aí,
14:46eu pensei em um outro caso
14:48para explicar isso
14:49que talvez tenha a ver
14:50com o ovo da gaivota.
14:53Não sei se é gaivota,
14:54tem um pássaro.
14:55Talvez não seja gaivota.
14:57Me perdoem os biólogos.
14:58Mas tem um pássaro
14:59que ele tende a chocar,
15:01ele prefere chocar um ovo
15:03maior e mais colorido
15:04do que o seu ovo verdadeiro.
15:06Se você colocar um ovo falso,
15:07mas que é um ovo maior
15:09e mais colorido,
15:10ele prefere do que
15:11o ovo verdadeiro.
15:12Porque de algum jeito,
15:12mesmo que claramente
15:14não é o seu ovo natural,
15:15mas talvez ative
15:16no cérebro do pássaro
15:18que aquelas características
15:19sejam muito fortes
15:21para que seja um ovo
15:23muito saudável.
15:24Nossa,
15:24o seu ovo maior,
15:25mas está maior demais,
15:27não importa.
15:27Mas se eu piso um ovo
15:28tão grandão desse aqui,
15:30tão bonito,
15:31eu vou chocar esse,
15:32mesmo que seja falso.
15:33Talvez seja algo parecido
15:35que está acontecendo
15:35com o ser humano, Marisa.
15:36A gente talvez não caia
15:38no Vale da Estranheza
15:38porque está tão perto,
15:40tão perto,
15:40tão perto que não ativa
15:41a nossa estranheza,
15:43mas ativa o contrário.
15:44A gente tem uma tendência
15:45talvez de gostar muito
15:47um rosto sem marcas
15:49de feição,
15:51que tem uma iluminação,
15:52um olho mais iluminado.
15:54Essas coisas talvez
15:55ativem na gente
15:56aquela característica
15:57de nossa,
15:58a pessoa é confiável,
15:59nossa,
15:59ela tem uma pele tão,
16:00ela tem um ar tão jovial.
16:02Talvez assim,
16:03é o contrário.
16:03Esse artificialismo
16:05potencializa no nosso cérebro,
16:07nossa programação genética,
16:09coisas de tipo,
16:10ai, deve ser essa pessoa
16:11tão esplendorosa,
16:14tem que ser confiável.
16:15É o que acontece
16:16em comerciais.
16:17A gente ficou treinado,
16:17na verdade,
16:18todas as atrizes,
16:19atores,
16:20essas pessoas
16:20são tão bonitas,
16:21tão artificialmente bonitas
16:22que ativam um lado
16:24de deve ser confiável,
16:26porque não pode ser bonito
16:27assim se não for confiável.
16:28Daí,
16:28é uma bobagem.
16:29Então,
16:29acho que é isso.
16:30A gente caiu
16:30na própria armadilha
16:31do marketing, Marisa.
16:33É verdade,
16:34mas eu diria
16:35que eu concordo com você.
16:36Eu também pensaria
16:37o oposto,
16:37quando você percebe
16:38que aí,
16:39ah, sei lá,
16:39não dá para confiar tanto,
16:40tem alguma coisa por aí.
16:42Mas é um estudo
16:42bem interessante.
16:44Pena,
16:45mais assuntos
16:46muito bacanas
16:47aqui na nossa coluna
16:48Fala Aí.
16:48Semana que vem,
16:49claro,
16:50teremos tantos outros.
16:52Muitíssimo obrigado
16:53e uma excelente semana
16:54para você.
16:56Obrigado, Marisa.
16:57Hoje foi mais leve,
16:58mais divertido,
16:58a gente conseguiu
16:59debater umas coisas aí,
17:01mais leves do que o normal.
17:03Espero que semana que vem
17:04continue assim, né?
17:05Quer dizer que não tem
17:05nenhuma bomba aí
17:06no mundo da IA.
17:07Com certeza, Pena.
17:09Nos vemos na próxima semana.
17:10Beijão para você.
17:12Beijo, tchau.
17:13Tchau, tchau.
17:14Tá aí,
17:15Roberto Pena Spinelli,
17:17mais uma coluna
17:19interessantíssima
17:19fala aí
17:20para vocês
17:21para falar sobre
17:22esse momento
17:23da IA
17:24e alguns estudos
17:25bem curiosos,
17:26não, pessoal?
17:27Bom,
17:27semana que vem
17:28o Pena Retorne
17:29estará aqui conosco
17:30em mais uma coluna
17:31fala aí
17:32para você.
17:33Tchau, tchau.
Comentários