Desafios éticos no uso da Inteligência Artificial (IA)

 Autora: Fabíola Cauduro (*)

Com certeza você já se deparou com os termos Inteligência Artificial (IA), Chat GPT, chatbot em algum momento enquanto navegava pela internet ou acessava suas redes sociais. Mas afinal o que é IA? E o que é Chat GPT? O que é chatbot?

Inteligência Artificial (IA) é o termo utilizado para representar um conjunto de aplicativos, programas, suportes lógicos computacionais que são capazes de criar sistemas aptos a executar tarefas de forma bastante próxima à inteligência humana, se alimentando de dados e informações. A origem do termo Inteligência Artificial (IA) é atribuída ao matemático britânico Alan Turnig que desenvolveu um dispositivo lógico que denominou de "automatic machine", e que era capaz de ler, escrever e decifrar mensagens. Sua criação foi essencial para decodificar mensagens em códigos cifrados, tornando-se uma ferramenta tecnológica valiosa contra as tropas de Hitler na Alemanha.

Como afirma Turing (1950, p. 458, tradução nossa):

A ideia de uma máquina de aprendizagem pode parecer paradoxal para alguns leitores. Como as regras de operação da máquina podem mudar? Eles devem descrever completamente como a máquina reagirá, qualquer que seja sua história, quaisquer que sejam as mudanças pelas quais ela possa passar. As regras são, portanto, bastante invariantes no tempo. Isso é bem verdade. A explicação do paradoxo é que as regras que são alteradas no processo de aprendizagem são de um tipo bem menos pretensioso, reivindicando apenas uma validade efêmera. [...][1].

Da criação de Turnig aos dias atuais, a Inteligência Artificial (IA), tem sido alimentada por fornecedores de dados e informações, que dão forma aos chatbots, que quanto mais alimentados, mais coerentes se tornam; por exemplo, é possível alimentar o chatbot com palavras e frases, para verificar se ele reconhece o que está sendo perguntado, assim, cada vez mais nutrido com mais informações, ele avança para um programa que simula conversas humanas escritas ou faladas, permitindo que as pessoas interajam com dispositivos digitais como se estivessem se comunicando com uma pessoa real, de forma organizada.

O Chat GPT, é um chatbot que faz parte da linha evolutiva da Inteligência Artificial (IA), como modelo de linguagem, demonstrando sua capacidade na geração de texto coerente e dentro de um contexto relevante, expondo o seu potencial em larga escala em Inteligência Artificial (IA). Seu funcionamento é relativamente simples, o algoritmo, que funciona como uma sequência de instruções, decompõe seus componentes, tais como substantivos, verbos, pronomes, adjetivos e advérbios, e assim, gera resultado com base nesses dados, refinando o potencial deles, o que acontece na prática é o estudo dos dados, da informações, seu processo de transformação e analise.

Para Kelleher e Tierney (2018):

A ciência de dados abrange um conjunto de princípios, definição de problemas, algoritmos e processos para extrair padrões não óbvios e úteis de grandes conjuntos de dados. Muitos dos elementos da ciência de dados foram desenvolvidos em campos relacionados, como aprendizado de máquina e mineração de dados, muitas vezes de forma intercambiável. (KELLEHER e TIERNEY, 2018, p., tradução nossa). [2]

Cientes das potencialidades do Chat GPT, emerge a necessidade de discutir a responsabilidade e a importância da ética no uso do Chat GPT, que contém potencial para a criação de textos, conversas, mas também pode gerar informações falsas, fake news e manipular opiniões. O impacto desses modelos de linguagem é um tema complexo e polêmico, pois estão inseridos num contexto onde o tráfego de informações é intenso, e sua existência representa uma transição de paradigmas em relação ao conhecimento.

É indispensável pensar nas implicações éticas do uso desses modelos de linguagem e concentrar esforços para que sejam usados de forma responsável, em benefício da sociedade, conservando seus aspectos positivos, cientes de que estamos diante de um impacto significativo nas formas de aprendizagem, alterando a maneira de adquirir conhecimento e demonstrar habilidades.

Muitos estudiosos, definem ética no campo da ciência, como o filósofo Kant, que acreditava que a ética consistia na ciência do dever, estava alicerçado no fato de que o dever impõe moralmente a consciência, defendendo a existência de uma ética universal; para Aristóteles, a ética pressupõe o uso correto da razão, a boa conduta e da felicidade, se ampara na ciência de praticar o bem. Trazendo essa discussão para os dias de hoje, o renomado professor Antônio Lopes de Sá estuda em uma de suas famosas obras a consciência e o dever ético aplicados à postura profissional na sociedade atual, com base em filósofos clássicos e modernos.

Para Sá (2010, p.22):

A ética é um estado de espírito é quase hereditário e vem da formação e do meio social no qual a criança teve sua personalidade moldada, burilada para ingressar no convívio, que é o popularmente se denomina berço; e moral é adquirida por meio da educação formal e da experiência de vida.

É necessária uma postura ética em relação às ferramentas tecnológicas digitais e modelos de linguagem, como a Inteligência Artificial (IA) que nos cercam e que se alimentam de dados, tornando-se assim cada vez mais assertivas em suas sugestões, portanto, especialmente nesses casos, uma conduta ética ou antiética provoca reflexos que devem ser investigados com profundidade para obtenção de resultados verídicos e para evitarmos o compartilhamento de informações que não façam jus à realidade.

No que diz respeito à autoria, as produções autorais, sejam elas científicas, literárias ou artísticas, é preciso estar atento não somente ao plágio, mas ao mau uso dos modelos de linguagem que podem ser utilizados para descaracterizar ou fazer uso indevido dessas produções. Segundo a Lei n° 9.610 de 19 de fevereiro de 1998, o autor, consequentemente aquele que criou a obra, trata-se apenas de pessoa física, portanto, não é possível proteger com direitos autorais os produtos gerados pelo sistema de inteligência artificial, já que foge ao conceito de pessoa física, assim sendo nem o Chat GPT nem o usuário da plataforma podem ser considerados autores.

Para THORP (2023):

Mais preocupantes são os efeitos do ChatGPT na redação de artigos científicos. Em um estudo recente, os resumos criados pelo ChatGPT foram submetidos a revisores acadêmicos, que detectaram apenas 63% dessas falsificações. É muito texto gerado por IA que pode chegar à literatura em breve. (THORP, 2023, p. 313, tradução nossa).[3]

O Projeto de Lei 1473/2023, que obriga empresas que operam sistemas de inteligência artificial a disponibilizar ferramentas para que autores de conteúdo na internet possam restringir o uso de seus materiais pelos algoritmos de inteligência artificial, com o objetivo de preservar os direitos autorais, aguarda parecer do Relator na Comissão de Cultura (CCULT).

Se faz necessário um conjunto de esforços para garantir que a tecnologia seja utilizada de forma ética, responsável e acessível para todos, uma vez que, não é possível retroagir em tecnologia, o seu uso trará as implicações necessárias em benefício da sociedade e da educação como um todo. São muitas as facilidades promovidas pela tecnologia, mediante a viabilização rápida de soluções para problemas e desafios; porém é necessário exercitar e pôr em prática nossa capacidade de pesquisa e raciocínio para obtenção dessas soluções sem tropeçar em informações que não possuam veracidade e que estejam atreladas a um processo que impacte de forma negativa o desenvolvimento do pensamento crítico, a habilidade de investigação e a busca por soluções.

A tecnologia está envolvida em diversos setores da sociedade, isso inclui as instituições de ensino, que foi grandemente afetada graças ao impulso ao acesso a novos modelos de aprendizagem digital, novas formas para o desenvolvimento de habilidades, através de plataformas on-line, aulas síncronas e assíncronas, plataformas digitais de aprendizagem, tecnologia educacional digital com acesso amplo a ferramentas de gestão, professores e alunos.

Conclusão

O uso do Chat GPT, bem como as demais vertentes da Inteligência Artificial (IA) nos convidam a questionar uma série de questões éticas, que não devem ser ignoradas e não podem ficar de fora da abordagem tecnológica, pois é preciso considerar que o uso da tecnologia seja feito de forma responsável, ética, para seja possível minimizar os riscos e consequências negativas e maximizar os benefícios e soluções apresentadas, é importante seguir debatendo sobre os prós e os contras do uso tecnologia e buscar estabelecer uso responsável e ético da Inteligência Artificial (IA).

Além das implicações éticas, cabe ressaltar que Inteligência Artificial (IA), os chatbots, o Chat GPT não desobriga os cientistas e pesquisadores a deixar de lado normas éticas, técnicas, acadêmicas e de revisão, mas incentivam seu uso de forma a auxiliar na construção de novas ideias, contribuindo para o processo criativo.

Talvez o grande desafio, não somente para educadores, pesquisadores, cientistas, comunicadores e toda a sociedade, em maior ou menor grau, seja aceitar o desafio proposto à autonomia humana de trabalhar com Inteligência Artificial (IA) e suas vertentes de forma ética em benefício da sociedade.

Referências Bibliográficas

BRASIL. Câmara dos Deputados. Projeto de Lei 1473/23, de 28 de março 2023. Esta Lei torna obrigatória a disponibilização, por parte das empresas que operam sistemas de inteligência artificial, de ferramentas que garantam aos autores de conteúdo na internet a possibilidade de restringir o uso de seus materiais pelos algoritmos de inteligência artificial, com o objetivo de preservar os direitos autorais. Brasília: Câmara dos Deputados, 2023. Disponível em: < https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=2251301&filename=PL%201473/2023>. Acesso em 18 de julho de 2023;

BRASIL. Lei n.°9.610, de 19 de fevereiro de 1998. Lei de Direitos Autorais. Brasília, DF, D.O de 20/02/1998, P.3;

ChatGPT (Intelligence Artificial) [Chatbot]. Disponível em: https://openai.com/products/gpt-3/ Acesso em 19/07/2023;

KELLEHER, J.; TIERNEY, B. Data Science. 1. ed. Cambridge: MIT Press, 2018. Disponível em: < https://www.yumpu.com/en/document/read/63817371/the-mit-press-essential-knowledge-john-d-kelleher-brendan-tierney-data-science-the-mit-press-2018>. Acesso em 18/07/20233;

SÁ, Antônio Lopes de. Ética profissional. 9. ed. São Paulo: Atlas, 2010;

THORP, H. Holden. ChatGPT is fun, but not an author. Science, v. 379, n. 6630, p. 313-313, 2023; e

TURING, Alan M.—Computing Machinery And Intelligence, Mind, Volume LIX, Issue 236, October 1950, Pages 433–460, Disponível em: <https://doi.org/10.1093/mind/LIX.236.433> Acesso em 20/07/2023.

Outras Referências

[1] The idea of a learning machine may appear paradoxical to some readers. How can the rules of operation of the machine change? They should describe completely how the machine will react whatever its history might be, whatever changes it might undergo. The rules are thus quite time-invariant. This is quite true. The explanation of the paradox is that the rules which get changed in the learning process are of a rather less pretentious kind, claiming only an ephemeral validity. (TURING, 1950, p. 458);

[2] Data science encompasses a sete of principles, problem definition, algorithms, and processes for extracting non-obvious and useful patterns from large data sets. Many of the elements of data science have been developed in related fields such as machine learning and data mining are often interchangeably. (KELLEHER e TIERNEY, 2018, p. 1);

[3] More worrisome are the effects of ChatGPT on writing scientific papers. In a recent study, abstracts created by ChatGPT were submitted to academic reviewers, who only caught 63% of these fakes. That’s a lot of AI-generated text that could find its way into the literature soon. . (THORP, 2023, p. 313).

* FABÍOLA CAUDURO´DA ROCHA

- Graduada em Design Gráfico pela FMU (2015);

-  MBA em Gestão de Recursos Humanos pela FMU  (2016); 

- Pós graduada em Design Educacional e Pedagogia do E-Learning pela Universidade Cruzeiro do Sul (2020);

- Mestra em Educação pela UNISAL (2022) ; 

- Trabalha há mais de 15 anos com práticas administrativas e acadêmicas relacionadas ao desenvolvimento pedagógico dos alunos, apoio aos professores e coordenadores, inclusive em cargos de gestão e supervisão como responsável junto ao MEC nos programas FIES e PROUNI e

-  Atualmente compõe a equipe de curadoria da UniAnchieta, também atua como conteudista e autora de artigos.

Nota do Editor:

Todos os artigos publicados no O Blog do Werneck são de inteira responsabilidade de seus autores.