Criação, Avaliações e Alterações do Emotion-LIBRAS: Um Instrumento de Avaliação da Qualidade Emocional de Pessoas Surdas Brasileiras Soraia Silva Prietch1, Luiz Antonio Gonzaga de Oliveira1, Lucia Vilela Leite Filgueiras2 1 Licenciatura em Informática/ Sistemas de Informação - Universidade Federal de Mato Grosso (UFMT)/ Campus de Rondonópolis Rodovia Rondonópolis-Guiratinga, KM 06 (MT 270), Bairro Sagrada Família 78.735-901 – Rondonópolis, MT – Brasil 2 Engenharia Elétrica/ Sistemas Digitais, Escola Politécnica - Universidade de São Paulo (USP) Av. Prof. Luciano Gualberto, travessa 3, n. 158 - 05.508-970 - São Paulo, SP - Brasil [email protected], [email protected], [email protected] Abstract. Emotion-LIBRAS was created with base on studies regarding methods for people’s emotional quality evaluation when they use products (computational or not), example of studied methods: SAM, PrEmo, Kansei Sheet, among others. This instrument was designed by the need to meet the demand for language accessibility of people who are deaf in Brazil, named as LIBRAS (Brazilian Sign Language). The context of interest for the application of Emotion-LIBRAS was User Experience (UX) area, in which it is considered important to identify user's emotions while they use resources mediated by technology. However, it is believed that it can be used in different contexts, and can be adapted to various situations as suggested at the end of this paper. Resumo. O Emotion-LIBRAS foi um instrumento criado com base em estudos a respeito de métodos de avaliação da qualidade emocional de pessoas ao conhecerem ou utilizarem produtos (computacionais ou não) como, por exemplo, SAM, PrEmo, Kansei Sheet, dentre outros. Este instrumento foi projetado devido à necessidade de atender a demanda de acessibilidade de língua materna das pessoas surdas brasileiras, que é a LIBRAS (Língua Brasileira de Sinais). O contexto de interesse de aplicação do EmotionLIBRAS foi para a área de Experiência do Usuário (UX), na qual se considera importante identificar as emoções do usuário enquanto o mesmo utiliza algum recurso mediado por tecnologia. Contudo, acredita-se que o mesmo possa ser utilizado em diferentes contextos, bem como pode ser adaptado para diversas situações conforme sugerido ao final deste artigo. 1. Introdução Métodos de avaliação da qualidade emocional são encontrados, em sua maioria, na área de Psicologia. Desta forma, os instrumentos mais conhecidos e utilizados como base nesta pesquisa são provenientes desta área. Uma vasta pesquisa foi realizada com o intuito de descobrir os diferentes instrumentos existentes que poderiam ser utilizados em contextos de pesquisa da área de Experiência do Usuário (UX, User eXperience) cujo público-alvo fossem pessoas surdas. Um resumo dos resultados dessa revisão de literatura a respeito dos métodos se encontra na Seção 2 deste artigo. Uma breve contextualização do uso de critérios emocionais em avaliações da UX no que se refere a sistemas computacionais (desktop, mobile, website, tangíveis, dentre outros) também merece ser destacada a fim de evidenciar a importância das emoções no processo de escolha ou de adoção de tecnologias pelos usuários, sendo que isso é realizado na Seção 3. Questões relacionadas às características das pessoas surdas brasileiras são descritas, em linhas gerais, na Seção 4, com o propósito de justificar a decisão de criação de um novo instrumento de avaliação da qualidade emocional. É possível adiantar que a LIBRAS foi o aspecto principal, visto que em pesquisas de campo realizadas em Rondonópolis, Mato Grosso: o Grupo 1, de pessoas surdas que auxiliaram no processo de construção do instrumento, e o Grupo 2, de pessoas surdas que utilizaram e avaliaram o instrumento, informaram a LIBRAS como sendo sua língua materna (L11) e a língua Portuguesa Brasileira (oral e escrita) como L2. O contexto de interesse de aplicação do Emotion-LIBRAS teve como foco a área de Experiência do Usuário (UX), na qual se considera importante identificar as emoções do usuário enquanto o mesmo utiliza algum recurso mediado por tecnologia. Contudo, acredita-se que o instrumento possa ser utilizado em diferentes contextos, bem como pode ser adaptado para diversas situações conforme sugerido ao final deste artigo. Tendo como fundamentação os conhecimentos obtidos na teoria e em campo, o objetivo principal deste trabalho é apresentar as etapas de criação, de avaliações e de alterações do Emotion-LIBRAS, as quais se encontram detalhadas na Seção 5. Conforme a norma ISO/IEC 25010 (2011), o contexto de uso é um dos critérios importantes quando se avalia a qualidade em uso de algum produto ou sistema computacional, portanto, este deve ser considerado durante todo o ciclo de desenvolvimento. No caso da pesquisa referente ao Emotion-LIBRAS, o contexto de uso de tecnologia, que se tem interesse, são os ambientes educacionais. Neste sentido, como trabalhos futuros, se pretende avaliar o uso de tecnologias assistivas por estudantes surdos do ensino médio em salas de aula de escolas inclusivas. Um dos critérios de avaliação são as emoções, por este motivo, o Emotion-LIBRAS vem sendo modificado para que possa ser utilizado no momento e contexto adequados. Por fim, na Seção 6, as considerações finais são relatadas. 2. Métodos de Avaliação da Qualidade Emocional Os trabalhos que mais tiveram influência na elaboração do Emotion-LIBRAS foram os seguintes: (a) Self-Assessment Manikin (SAM) de Bradley e Lang (1994); (b) PrEmo de Desmet (2003); (c) Kansei Sheet de Elokla, Hirai e Morita (2010); (d) Circumplex Model of Affect de Russell (1980); (e) Geneva Affect Label Coder (GALC) e Geneva Emotion Wheel (GEW) de Scherer (2005); e, (f) Facial Action Coding System (FACS) 1 De acordo com Quadros (1997, p. 15), “Considerando a educação de surdos no Brasil, a aquisição de L1 [primeira língua] deveria ser da LIBRAS e de L2 [segunda língua], da língua portuguesa”. Ekman e Friesen (1978). Na Figura 1, as imagens que representam os quatro primeiros métodos citados são expostas. (a) (b) (c) (d) Figura 1: (a) SAM; (b) PrEmo; (c) Kansei Sheet; e, (d) Circumplex Model of Affect. Os seis métodos supracitados se referem à categoria de instrumentos de natureza explícita, através dos quais respostas dos usuários são informadas: (i) de forma verbal (por texto ou fala) ou não verbal (por imagens, animações ou vídeos), bem como (ii) da utilização de escalas semelhantes à notação da Escala de Diferencial Semântico (emoções bipolares são dispostas em lados opostos fornecendo opções de diferentes níveis de intensidade), exceto pelo FACS. No trabalho de Alves e Prietch (2013), as autoras efetuaram pesquisa de campo com pessoas surdas para verificar se três instrumentos já existentes seriam inteligíveis por elas para identificar suas próprias emoções ao utilizar um software previamente conhecido pelos participantes, o MSN. Os instrumentos avaliados foram o SAM, o GEW e a Kansei Sheet. Como resultado chegou-se a conclusão de que alterações de layout e textuais nos instrumentos originais deveriam ser realizadas para torná-los mais acessíveis para pessoas surdas e que fossem incluídos sinais da LIBRAS. 3. Experiência do Usuário (UX, User eXperience) e Design Emocional Van Gorp e Adams (2012) explicam que, ao utilizar sistemas computacionais, se o usuário vivencia experiências negativas, estas muitas vezes são mais recordadas do que as experiências positivas, o que pode ocasionar em rejeição ao uso ou a não adoção de tais sistemas. Entretanto, de acordo com Hassenzahl e Tractinsky (2006, p. 93) “a prevenção da frustração e da falta de satisfação [do usuário com relação a sistemas computacionais] sempre foi um dos objetivos principais mesmo para as linhas de estudo de IHC voltadas para questões cognitivas. O que é novo em pesquisas de UX é o foco em resultados de emoções positivas, tais como alegria, diversão e orgulho”. Unger e Chandler (2009, p.6) definem que “para criar experiências verdadeiramente memoráveis e satisfatórias, um projetista de UX [...] precisa entender os elementos que são importantes para criar uma conexão emocional com os usuários”. Norman (2008, p. 25) afirma que o design emocional conta com três aspectos: visceral, comportamental e reflexivo. “O design visceral diz respeito às aparências. [...] O design comportamental diz respeito ao prazer e à efetividade no uso. [....] o design reflexivo considera a racionalização e a intelectualização de um produto”. Esses mesmos três aspectos também são mencionados por Van Gorp e Adams (2012, p. 2831), sendo que utilizam as respectivas nomenclaturas: cérebro reptiliano (reptilian brain, processamento instantâneo e inconsciente), cérebro dos mamíferos (mammalian brain, respostas às interações sociais e geração das emoções), e cérebro dos mamíferos evoluído (neomammalian brain, processamento racional e consciente). Ao considerar esses três aspectos do processamento do cérebro humano, torna-se possível planejar experiências positivas durante a etapa de design de novos produtos, bem como ao avaliar produtos existentes tem-se a oportunidade de efetuar adequações dependendo das respostas emocionais do público-alvo. 4. Um Olhar sobre as Características das Pessoas Surdas como Potenciais Usuários de Tecnologias Dentre as várias descobertas de Martins (2012), através de sua pesquisa, o autor descreve que as pessoas surdas, por exemplo: possuem dificuldade com a leitura e escrita da língua portuguesa; necessitam de conteúdos disponíveis em LIBRAS para que estas consigam compreender as informações de websites; gostariam que websites fossem projetados: incluindo tanto língua portuguesa quanto LIBRAS, vídeos com legendas, textos escritos disponibilizados conforme a estrutura gramatical da LIBRAS, e que contassem com textos simples; ao visualizar imagens em websites percebem que facilita o entendimento do texto; ao apresentar vídeos, a preferência é por tamanhos maiores de tela para que a visualização dos sinais, leitura labial e legendas seja mais adequada. No trabalho de Prietch e Filgueiras (2013a), também foi verificada a preferência pelo uso da comunicação de sinais em LIBRAS realizada por pessoas, ao invés da comunicação por avatar animado, visto que as expressões faciais das pessoas são mais compreensíveis. Essa informação está de acordo com os parâmetros da LIBRAS [Capovilla, Raphael e Mauricio 2010], dentre os quais, a expressão facial faz parte para que a comunicação seja correta e completa. 5. Emotion-LIBRAS: Criação, Avaliações e Alterações A intenção principal da criação de um novo instrumento se fundamenta nos seguintes fatores: (1) disponibilizar um instrumento acessível na língua materna das pessoas surdas; e, (2) conferir maior independência e autonomia aos surdos, no sentido de conseguir responder a um questionário sem a necessidade de auxílio de terceiros (de familiares, de amigos ou de intérprete). Desta forma, entende-se que as respostas dos participantes seriam livres de terceiras interpretações e corresponderiam com maior fidelidade ao que os participantes surdos gostariam de expressar. A primeira versão do Emotion-LIBRAS apresentava o formato circular, em papel, seguindo o modelo dos instrumentos GEW, Kansei Sheet e Circumplex Model of Affect, e utilizava imagens estáticas para ilustrar os sinais em LIBRAS. Os oito desenhos do avatar comunicando-se em LIBRAS, na Figura 2(a), foram copiados do dicionário trilingue de Capovilla, Raphael e Mauricio (2010). Na segunda versão, após pesquisa de campo relatada por Prietch e Filgueiras (2013a), o formato preferencial das pessoas surdas foi o retangular, seguindo o modelo do SAM, bem como as imagens estáticas foram substituídas pela proposição de vídeos com um surdo comunicando-se em LIBRAS, na perspectiva de torná-lo um instrumento que fosse acessado digitalmente. Na Figura 2(b), o filtro “pixelizar”, da ferramenta GIMP, foi utilizado no rosto do surdo que contribuiu com a pesquisa, a fim de preservar a exposição da imagem (o participante assinou um termo de consentimento para filmagens e divulgação no meio acadêmico). (a) (b) Figura 2: (a) Emotion-LIBRAS: versão 1.0; (b) Emotion-LIBRAS: versão 2.0. É importante observar que, na Figura 2(b), logo abaixo da imagem do vídeo, constava o alfabeto manual em LIBRAS referente à palavra (emoção). Isso ocorreu por que foi uma preferência evidenciada na primeira pesquisa de campo [Prietch e Filgueiras 2013a]. Contudo, essa característica foi modificada na versão 2.2 do Emotion-LIBRAS (Figura 3(b)), pois na segunda pesquisa de campo [Prietch e Filgueiras 2013b] os participantes surdos consideraram mais fácil de entender se o texto estivesse escrito em português ao invés de fornecer o alfabeto manual. A Figura 3(a) ilustra a primeira versão digital do Emotion-LIBRAS, a qual foi elaborada usando o LimeSurvey (2013). Os detalhes do desenvolvimento e da aplicação da versão 2.1 constam descritos no artigo de Prietch e Filgueiras (2013b). A Figura 3(a) é apenas um recorte do instrumento completo, a qual ilustra o último item das emoções positivas e o primeiro item das emoções negativas, dispostos sequencialmente contendo ao final o botão “Enviar”. Nesse caso, ao selecionar uma opção positiva, a opção negativa exatamente oposta a esta era omitida automaticamente do questionário; o inverso também ocorria (e.g., ao marcar ‘interessado’, a emoção oposta ‘indiferente’ não ficava mais visível como opção de resposta para o usuário). (a) (b) Figura 3: (a) Emotion-LIBRAS: versão 2.1; (b) Emotion-LIBRAS: versão 2.2. Conforme Prietch e Filgueiras (2013b), os participantes gostaram muito do fato de disponibilizar as palavras (emoções) com vídeos em LIBRAS, pois assim eles compreendiam rapidamente seu significado. Durante a segunda pesquisa de campo, que gerou a versão 2.2 (Figura 3(b)), a versão 2.0 (Figura 2(b)) em papel primeiro foi apresentada para explicar a relação entre as emoções negativas e positivas, e posteriormente os participantes surdos utilizaram a versão 2.1 digital (Figura 3(a)). Entretanto, mesmo assim algumas dificuldades ainda foram percebidas durante o uso do instrumento. Neste sentido, seguindo algumas indicações, tanto de revisores de trabalhos submetidos a eventos quanto da literatura (Ferreira e Nunes (2008); Krug (2006); Rubin e Chisnell (2008)), decidiu-se por efetuar algumas alterações: substituir a cor de fundo azul pela cor verde para indicar as emoções positivas; formatar o instrumento no estilo de escala de Diferencial Semântico, utilizando como respostas: 5, muito positivo; 4, positivo; 3, neutro; 2, negativo; 1, muito negativo; posicionar as emoções positivas do lado esquerdo da tela e as negativas do lado direito, a fim de facilitar a relação direta da oposição das emoções bipolares; desenvolver o instrumento digital utilizando linguagem de programação com hospedagem em website próprio. A Figura 4(a) ilustra o Emotion-LIBRAS digital, versão 2.3, sendo que: (i) a parte em verde representa as emoções positivas, contendo vídeos dos sinais da LIBRAS com as palavras em português escrito de cada uma das quatro emoções; (ii) a parte em vermelho representa as emoções negativas opostas, contendo vídeos dos sinais da LIBRAS com as palavras em português escrito; e, (iii) a parte central em cinza, no topo tem-se o nome do instrumento, na parte do meio constam as opções de respostas (5 a 1) podendo marcar somente uma alternativa (radio button), e na parte inferior se encontra o botão “Enviar”, para o participante clicar após responder as quatro questões. (a) (b) Figura 4: (a) Emotion-LIBRAS versão 2.3; (b) Organograma das pastas e arquivos do código desenvolvido para gerar o Emotion-LIBRAS 2.3. Com relação à Figura 4(a), vale destacar que as pessoas podem sentir emoções misturadas. Exemplos dessa situação são quando os participantes marcam: (i) “5” e/ou “4” para duas ou mais emoções positivas ao mesmo tempo; ou, (ii) “1” e/ou “2” para duas ou mais emoções negativas. Caso um participante tenha a consciência exata de uma única emoção sentida, por exemplo, “interessado”, este pode marcar “5” ou “4” como resposta e para as demais emoções, o participante poderia marcar “3”, significando neutralidade, ou seja, não sentiu emoções positivas nem negativas para as opções oferecidas no instrumento. No que se refere à Figura 4(b), o arquivo “index.html” é a parte do sistema que fica visível ao usuário, é nessa tela que o usuário interage com o sistema, visualizando os vídeos e respondendo ao questionário. Essa página é composta por uma tabela, contendo imagens, vídeos, textos, radio buttons e botão de comando (Enviar). As imagens, os vídeos e os arquivos Java Script e CSS são armazenados cada um em pastas distintas por questão de organização. A definição por utilizar vídeos em formato SWF (ShockWave Flash) foi por que são leves; mesmo perdendo um pouco de qualidade quando convertidos para esse formato ainda são, para o propósito desse sistema, satisfatórios. O arquivo “respostas.html” somente é visível pelo pesquisador (administrador do sistema) e não pelos participantes. Neste arquivo são armazenadas as respostas dos participantes, de forma simples, somente numérica, como pode ser visto na Figura 5. Figura 5: Print screen de um exemplo fictício de um grupo de respostas após utilizar o Emotion-LIBRAS 2.3, visualizando o arquivo ‘respostas.html’. 5.1. Resultados e discussão Quadros (1997, p. 35) informa que “a associação de surdos sempre é consultada quando são discutidos assuntos que envolvem a comunidade surda”. Neste aspecto, em nova pesquisa de campo realizada no mês de outubro de 2013, a comunidade surda foi convidada a participar por intermédio da Associação de Surdos de Rondonópolis (ASSUROO). Nesta referida pesquisa, o objetivo não foi o de avaliar o instrumento EmotionLIBRAS, porém alguns aspectos ficaram evidentes com relação a seu uso pelos participantes, a saber: se a intenção é que pessoas surdas utilizem o Emotion-LIBRAS de forma autônoma, este instrumento ainda não está claro o suficiente, pois durante a terceira pesquisa de campo foi necessário explicar mais de uma vez como os participantes deveriam proceder para preencher as respostas. Essa dificuldade foi percebida especialmente em três pontos: i. a ausência de um vídeo introdutório em LIBRAS, no topo da página, explicando e exemplificando como utilizar o instrumento; ii. a não compreensão sobre o significado das opções de respostas somente com os números de 5 a 1. Como sugestão de alteração, se poderia utilizar uma das duas opções ilustradas na Figura 6; (a) (b) Figura 6: Sugestões para as opções de respostas: (a) Proposta 1; (b) Proposta 2. iii. a existência de emoções bipolares em extremidades opostas causou confusão no entendimento da relação entre estas. Recomenda-se manter somente os vídeos das emoções positivas do lado esquerdo da página. Assim, o participante pode se concentrar em somente um tipo de emoção por vez. 6. Considerações Finais Muito se aprende com a literatura especializada, seja a respeito de estudos sobre experiência do usuário, seja sobre o uso de tecnologia por pessoas surdas, seja referente instrumentos de avaliação da qualidade emocional. Contudo, pesquisas em campo mostram informações que são difíceis de encontrar na bibliografia, que é a diversidade humana. Dentro da própria comunidade surda, verifica-se evidente diversidade no que se refere às preferências de comunicação, o que possibilita a abertura de um leque de possibilidades para o projeto e/ou o uso de tecnologias assistivas. Essa é uma motivação muito grande em se fazer pesquisa, descobrir informações novas e a cada questionamento respondido, surgem duas ou mais perguntas diferentes. Os desafios nessa linha de pesquisa são inúmeros e muito ainda precisa ser realizado. Juntamente com a aplicação do Emotion-LIBRAS, em campo, também filmagens tem sido realizadas (com consentimento prévio dos participantes) durante os encontros, os quais sempre contam com a presença de profissionais intérpretes para auxiliar a comunicação. Percebe-se que a comunidade surda é bastante receptiva a novidade, especialmente, tecnológicas e seus membros estão sempre dispostos a auxiliar em pesquisas que possam trazer benefícios futuros aos mesmos. Ao realizar três pesquisas em campo, utilizando o Emotion-LIBRAS, houve a necessidade de efetuar alterações no instrumento após cada uma delas, sendo que atualmente uma nova versão está sendo projetada. As impressões das pessoas surdas são de extrema relevância nesse processo, visto que eles são o público-alvo, eles serão os principais beneficiados posteriormente. Além disso, como próximos passos ainda se tem interesse em buscar respostas para os seguintes questionamentos: (1) o Emotion-LIBRAS poderia ser utilizado como um instrumento online para acesso remoto (avaliação à distância)? (2) os pesquisadores e/ou os intérpretes necessitariam estar presentes durante o uso do Emotion-LIBRAS em acesso remoto? (3) regionalismos da LIBRAS poderiam atrapalhar o uso do EmotionLIBRAS devido aos diferentes tipos de sinais que se referem a uma mesma palavra em diferentes estados do Brasil? (4) as emoções com relação ao uso de tecnologias são diferentes se os participantes são avaliados individualmente ou em grupo? Quando for verificado que o instrumento não precisa de mais alterações, então se pretende disponibilizar o código-fonte para que outros pesquisadores o possam usar. Inclusive o Emotion-LIBRAS poderia: (1) ser adaptado para corresponder às características regionais da LIBRAS, alterando os vídeos para sinais que sejam utilizados em determinado estado brasileiro; (2) ser renomeado como Emotion-SL (Sign Language), visto que os vídeos em LIBRAS podem ser substituídos por vídeos em outra língua de sinais (ASL, LSF, LIS, dentre outras) e as palavras podem ser traduzidas para outra língua escrita (inglês, francês, italiano, dentre outras); e, (3) outros tipos de emoções poderiam ser incluídas (por exemplo, frustrado, surpreso) ou mesmo substituir as existentes conforme o interesse de pesquisa em mãos. Referências Alves, Naiane S.; Prietch, Soraia S. (2013). “Os Instrumentos de Avaliação da Experiência Emocional e as Pessoas Surdas: Estudo do MSN”. Escola Regional de Informática de Mato Grosso (ERI-MT), Alto Araguaia, MT. Bradley, Margaret M.; Lang, Peter J. (1994). “Measuring Emotion: The SelfAssessment Manikin And The Semantic Differential”. J. Behav. Ther. & Psychiat., Vol. 25, No. 1. pp. 49-59, Elsevier Science Ltd. Capovilla, F.; Raphael, W.; Mauricio, A. (2010). “Dicionário Enciclopédico Ilustrado Trilíngue”. São Paulo, SP: EdUSP. Desmet, Pieter M.A. (2003). “Measuring Emotions: Development and application of an instrument to measure emotional responses to products”. In: M.A. Blythe, A.F. Monk, K. Overbeeke, & P.C. Wright (Eds.), Funology: from usability to enjoyment. Ekman, Paul; Friesen, W. V. (1978). “The Facial Action Coding System”. Palo Alto, CA: Consulting Psychological Press. Elokla, Nermin; Hirai, Yasuyuki; Morita, Yoshitsugu. (2010). “A Proposal for Measuring User’s Kansei”. International Conference on Kansei Engineering and Emotion Research 2010. Ferreira, Simone B. L.; Nunes, R. R. (2008). “e-Usabilidade”. Rio de Janeiro: LTC. Hassenzahl, Marc; Tractinsky, Noam. (2006). “User experience – a research agenda”. Behaviour & Information Technology, 25:2, 91-97. Krug, Steve. (2006). “Não me faça pensar”. Editora: Alta Books, ISBN: 2147483647. LimeSurvey. Disponível em: http://www.limesurvey.org/pt/, acesso dia: 31/10/2013. Martins, Stefan José O. (2012). “CLAWS: Uma Ferramenta Colaborativa para Apoio à Interação de Surdos com Páginas da Web”. Dissertação apresentada à Escola Politécnica da Universidade de São Paulo para obtenção do título de Mestre. Norman, Donald A. (2008). “Design Emocional: Por que adoramos (ou detestamos) os objetos do dia-a-dia”. Rio de Janeiro: Rocco. Quadros, Ronice M. de. (1997). “Educação de Surdos: A Aquisição da Linguagem”. Porto Alegre: ARTMED Editora. Prietch, Soraia S.; Filgueiras, Lucia V. L. (2012). “Emotional Quality Evaluation Method for Interviewing Deaf Persons (Emotion-LIBRAS)”. IADIS International Conference Interfaces and Human Computer Interaction (ICHI), Portugal. Prietch, Soraia S.; Filgueiras, Lucia V. L. (2013a). “Developing Emotion-Libras 2.0 an Instrument to Measure the Emo-tional Quality of Deaf Persons while using Technology”. In: Capítulo de livro, “Emerging Research and Trends in Interactivity and the Human-Computer Interface”, K. Blashki & P. Isaías (Ed.), IGI Global pub. Prietch, Soraia S.; Filgueiras, Lucia V. L. (2013b). “Double Testing: Potential Website Resources for Deaf People and the Evaluation Instrument Emotion-LIBRAS”. I Chilean Conference on Human-Computer Interaction (ChileCHI 2013), Incooperation with ACM SIGCHI, Co-located with JCC, 11-15/Nov, Temuco, Chile. Rubin, J.; Chisnell, D. (2008). “Handbook of Usability Testing: How to Plan, Design, and Conduct Effective Tests”. Second edition, Wiley Publishing, Indiana, U.S.A. Russell, James A. (1980). “A Circumplex Model of Affect”. Journal of Personality and Social Psychology, Vol. 39, No. 6, 1161-1178. Scherer, Klaus R. (2005). “What are emotions? And how can they be measured?” SAGE Publications, DOI: 10.1177/0539018405058216 Vol 44(4), pp. 695–729. Unger, Russ; Chandler, Carolyn. (2009). “O Guia para Projetar UX: A Experiência do Usuário (UX) para Projetistas de Conteúdo Digital, Aplicações e Web Sites”. Rio de Janeiro: Alta Books Editora. Van Gorp, Trevor; Adams, Edie. (2012). “Design for Emotion”. U.S.A., Elsevier.