Projetar eticamente na era da IA: o papel do designer enquanto agente humanizador de tecnologias
Resumo
A Inteligência Artificial tem avançado e chegado ao cotidiano das pessoas por meio de produtos, sistemas e serviços resultantes de projetos de design. Tem-se então, na atualidade, uma tecnologia que força a aceleração no desenvolvimento dos projetos que a comportam e criar soluções éticas nestas circunstâncias posicionando o ser humanos como centro do processo é o que destaca o papel dos designers enquanto agentes humanizadores das tecnologias. Buscando estabelecer estas relações, este artigo traz reflexões a partir de uma pesquisa bibliográfica apoiada em autores pertinentes com foco em contribuir com as pesquisas nas áreas de design, inteligência artificial e ética.
Palavras-chave:
Inteligência Artificial, Design, Ética
Referências
Bonsiepe, Gui. Design, Cultura e Sociedade. São Paulo: Blucher, 2011.
Brey, Philip; Dainow, Brandt. Ethics by design for artificial intelligence. AI Ethics. Springer Link, 2023. DOI: https://doi.org/10.1007/s43681-023-00330-4.
Cortiz, Diogo. O Design pode ajudar na construção de Inteligência Artificial humanística? Anais do 17° Ergodesign – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Tecnológica: Produto, Informações Ambientes Construídos e Transporte 17° USIHC – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Computador. 2019. http://pdf.blucher.com.br.s3-sa-east-1.amazonaws.com/designproceedings/ergodesign2019/1.02.pdf. Acesso em: 8 abr. 2024.
Cassino, João Francisco. O sul global e os desafios pós-coloniais na era digital. In: SILVEIRA, Sérgio Amadeu; SOUZA, Joyce; CASSINO, João Francisco. Colonialismo de dados: Como opera a trincheira Algorítmica na guerra neoliberal. São Paulo: Autonomia literária, 2021.
Couldry, Nick.; Mejias, Ulisses. A. Costs of connection – how data is colonizing human life and appropriating it for Capitalism. Califórnia: Satanford University Press, 2019.
Cozman, Fábio. G.; Kaufman, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, (135), 195-210. 2022. https://doi.org/10.11606/issn.2316-9036.i135p195-210.
Dignum, Virgínia. Responsible artificial intelligence: how to develop and use AI in a responsible way. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer, 2019.
Kaufman, Dora. Inteligencia artificial: questões éticas a serem enfrentadas. IX Simpósio Nacional da ABCiber. 2016. https://abciber.org.br/anaiseletronicos/wpcontent/uploads/2016/trabalhos/inteligencia_artificial_questoes_eticas_a_serem_enfrentadas_dora_kaufman.pdf. Acesso em: 10 jul. 2024.
Moraes, Dijon. Análise do Design Brasileiro, entre mimese e mestiçagem. São Paulo: Blucher, 2005 .
Mozota, Brigitte Borja. Gestão do design: usando o design para construir valor de marca e inovação. Porto Alegre, Bookman, 2009.
Russell, Stuart; Norvig, Peter. Inteligência artificial. 3. ed. Tradução: Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
Santaella, Lucia. Inteligência artificial e cultura: oportunidades e desafios para o sul global. Centro UNESCO. CETIC.BR/NIC.BR. 2021. https://cetic.br/pt/publicacao/inteligencia-artificial-e-cultura-oportunidades-edesafios-para-o-sul-global/. Acesso em: 08 jul. 2024.
Suleyman, Mustafa; Bhaskar, Michael. A próxima onda: inteligência artificial, poder e o maior dilema do século XXI. Rio de Janeiro: Record, 2023. E-book.
Scheneider, Beat. Design - Uma introdução: o design no contexto social, cultural e econômico. São Paulo: Editora Blücher, 2010.
Silva, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022
Brey, Philip; Dainow, Brandt. Ethics by design for artificial intelligence. AI Ethics. Springer Link, 2023. DOI: https://doi.org/10.1007/s43681-023-00330-4.
Cortiz, Diogo. O Design pode ajudar na construção de Inteligência Artificial humanística? Anais do 17° Ergodesign – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Tecnológica: Produto, Informações Ambientes Construídos e Transporte 17° USIHC – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Computador. 2019. http://pdf.blucher.com.br.s3-sa-east-1.amazonaws.com/designproceedings/ergodesign2019/1.02.pdf. Acesso em: 8 abr. 2024.
Cassino, João Francisco. O sul global e os desafios pós-coloniais na era digital. In: SILVEIRA, Sérgio Amadeu; SOUZA, Joyce; CASSINO, João Francisco. Colonialismo de dados: Como opera a trincheira Algorítmica na guerra neoliberal. São Paulo: Autonomia literária, 2021.
Couldry, Nick.; Mejias, Ulisses. A. Costs of connection – how data is colonizing human life and appropriating it for Capitalism. Califórnia: Satanford University Press, 2019.
Cozman, Fábio. G.; Kaufman, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, (135), 195-210. 2022. https://doi.org/10.11606/issn.2316-9036.i135p195-210.
Dignum, Virgínia. Responsible artificial intelligence: how to develop and use AI in a responsible way. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer, 2019.
Kaufman, Dora. Inteligencia artificial: questões éticas a serem enfrentadas. IX Simpósio Nacional da ABCiber. 2016. https://abciber.org.br/anaiseletronicos/wpcontent/uploads/2016/trabalhos/inteligencia_artificial_questoes_eticas_a_serem_enfrentadas_dora_kaufman.pdf. Acesso em: 10 jul. 2024.
Moraes, Dijon. Análise do Design Brasileiro, entre mimese e mestiçagem. São Paulo: Blucher, 2005 .
Mozota, Brigitte Borja. Gestão do design: usando o design para construir valor de marca e inovação. Porto Alegre, Bookman, 2009.
Russell, Stuart; Norvig, Peter. Inteligência artificial. 3. ed. Tradução: Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
Santaella, Lucia. Inteligência artificial e cultura: oportunidades e desafios para o sul global. Centro UNESCO. CETIC.BR/NIC.BR. 2021. https://cetic.br/pt/publicacao/inteligencia-artificial-e-cultura-oportunidades-edesafios-para-o-sul-global/. Acesso em: 08 jul. 2024.
Suleyman, Mustafa; Bhaskar, Michael. A próxima onda: inteligência artificial, poder e o maior dilema do século XXI. Rio de Janeiro: Record, 2023. E-book.
Scheneider, Beat. Design - Uma introdução: o design no contexto social, cultural e econômico. São Paulo: Editora Blücher, 2010.
Silva, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022
Publicado
27/11/2024
Como Citar
PIZARRO, Carolina V..
Projetar eticamente na era da IA: o papel do designer enquanto agente humanizador de tecnologias. In: CONFERÊNCIA LATINO-AMERICANA DE ÉTICA EM INTELIGÊNCIA ARTIFICIAL, 1. , 2024, Niteroi.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 1-4.
DOI: https://doi.org/10.5753/laai-ethics.2024.32437.
