Computational implementation of an explainable state machine-based agent

• Henrique E. Viana Universidade Tecnologica Federal do Paraná
• Cesar A. Tacla Universidade Tecnologica Federal do Paraná
• Jean M. Simão Universidade Tecnologica Federal do Paraná

DOI: https://doi.org/10.5753/eniac.2023.234005

Resumo

Existem casos em que um sistema deve atuar de forma autônoma. Um exemplo é realizar uma exploração em um cenário de acidente ou catástrofe natural para resgatar as vítimas. Uma das áreas que trata de sistemas autônomos é nomeada de Multiagente. Por diversas razões, pode ser necessário que o sistema gere explicações sobre suas ações. Por exemplo, por que um certo agente resgatou a pessoa A em vez da B? Quando um sistema tem impacto sobre vidas humanas, gerar explicações pode ser um requisito. Com base nisso, esse trabalho tem como objetivo realizar a implementação computacional de um agente explicável. A implementação é baseada em um modelo estrutural e um modelo de explicabilidade, existentes na literatura. Existem também simplificações para facilitar a implementação computacional, que é baseada em máquina de estados. A implementação foi construída na linguagem Python, e encapsulada em uma biblioteca genérica que pode ser configurada para qualquer cenário. Essa implementação foi testada para um cenário. Nesse cenário o agente precisa resgatar vítimas de um acidente. O objetivo dos testes é analisar as explicações geradas. A implementação demonstrou ser capaz de capturar os elementos essenciais para explicar as decisões do agente e gerar explicações a partir delas.

Palavras-chave: Sistemas Multiagentes, Máquina de Estados, Explicabilidade

Referências

Castelfranchi, C. and Paglieri, F. (2007). The role of beliefs in goal dynamics: prolegomena to a constructive theory of intentions. Synthese, 155(2):237–263.

dos Santos Neves, F. and Linhares, R. R. (2021). Framework nop 4.0: contribution to the development of applications in the notification oriented paradigm through generic programming. Institutional Repository of the Federal Technology University – Paraná (RIUT).

Georgeff, M., Pell, B., Pollack, M., Tambe, M., and Wooldridge, M. (1999). The belief-desire-intention model of agency. In Müller, J. P., Rao, A. S., and Singh, M. P., editors, Intelligent Agents V: Agents Theories, Architectures, and Languages, pages 1–10, Berlin, Heidelberg. Springer Berlin Heidelberg.

Grice, H. P. (1975). Logic and Conversation, pages 41 – 58. Brill, Leiden, The Netherlands.

Harbers, M., van den Bosch, K., and Meyer, J.-J. (2010). Design and evaluation of explainable bdi agents. In 2010 IEEE/WIC/ACM International Conference on Web Intelligence and Intelligent Agent Technology, volume 2, pages 125–132.

Haynes, S. R., Cohen, M. A., and Ritter, F. E. (2009). Designs for explaining intelligent agents. International Journal of Human-Computer Studies, 67(1):90–110.

Hindriks, K. V. (2009). Programming Rational Agents in GOAL, pages 119–157. Springer US, Boston, MA.

Jasinski, H. M. R. and Tacla, C. A. (2022). Generating contrastive explanations for bdi-based goal selection. Institutional Repository of the Federal Technology University – Paraná (RIUT).

Morveli-Espinoza, M., Nieves, J. C., Tacla, C. A., and Jasinski, H. M. R. (2022). An Argumentation-Based Approach for Goal Reasoning and Explanations Generation. Journal of Logic and Computation. exac052.

Pearl, J. (2009). Causal inference in statistics: An overview. Statistics Surveys, 3(none):96 – 146.

Rao, A. S. (1996). Agentspeak(l): Bdi agents speak out in a logical computable language. In Van de Velde, W. and Perram, J. W., editors, Agents Breaking Away, pages 42–55, Berlin, Heidelberg. Springer Berlin Heidelberg.

Sado, F., Loo, C. K., Liew, W. S., Kerzel, M., and Wermter, S. (2023). Explainable goal-driven agents and robots - a comprehensive review. ACM Comput. Surv., 55(10).