Anthony Grue
Quem Deveria Ir à Lua: o Homem ou o Computador?
Uma preocupação que os computadores encontram quando entram em uma
á r e a o c u p a d a t r a d i c i o n a l m e n t e p o r u m h u m a no é : q u a l é o m e l h o r p a r a r e a l i z a r o
trabalho, o homem ou a máquina? O Apollo Guidance Computer, que pertencia
essencialmente ao mundo digital, se tornou capaz de fazer muito mais do que
orientar o homem, inclusive orientar a própria aeronave, e pela primeira vez com
u m s i s t e m a d e c o n t r o l e d i g i t a l u m h u m a no e s t a r i a a b o r d o . D e c i s õ e s d e p r o j e t o
tiveram que ser tomadas a respeito de como o homem interagiria com o
computador e quem estaria no comando. Estas preocupações são pertinentes,
porque elas dizem respeito à segurança do homem em sistemas controlados por
computador e a confiança de computadores em aplicações críticas. Este trabalho
aborda a confiança em computadores ou humanos em situações que sejam
difíceis para ambos.
Na metade da guerra fria e da corrida espacial, a computação surgiu com
bastante velocidade, correspondendo aos desafios que os Estados Unidos
estavam enfrentando. Sistemas de navegação precisos se tornaram o próximo
desafio dos computadores a ser enfrentado devido ao crescente interesse em
armas. Circuitos integrados (CIs) recentemente desenvolvidos permitiram
computadores bastante leves e compactos a um custo razoável, que poderiam
acompanhar uma arma em todo seu vôo. O presidente Kennedy descobriu que a
tecnologia de orientação tinha se tornado disponível para trazer a lua ao alcance
d e s u a s m ã o s – u m a t e c n o l o g i a n ã o d i s p o ní v e l p a r a o s s o v i é t i c o s – e e l e d e c i d i u
l a n ç a r m ã o d e s t e t r u n f o . N o e n t a n t o , e s t e d e s a f i o e r a d i f e r e n t e d o Minuteman 1
p o r q u e u m h u m a n o e s t a r i a a b o r d o , l e v a n do a s s i m a o d i l e m a d a c o n f i a n ç a s o b r e
a quem dar o controle do veículo: ao humano ou ao computador.
As leituras tenderam a apresentar o perfil dos envolvidos com o projeto e
a t e c n o l o g i a p o r t r á s d e l e , m a s d e d i c ar a m a l g u m e s p a ç o à s r a m i f i c a ç õ e s d a
criação de um computador que tivesse tanto controle sobre a vida das pessoas. O
chefe do Laboratório de Instrumentação, Charles Draper, ofereceu um argumento
b e m - d e f i n i d o s e p o d e r i a c o n f i a r n o c o m pu t a d o r , o f e r e c e n d o - s e c o m o g a r a n t i a
p a r a o v ô o ( C e r u z z i 1 9 8 9 , p á g . 9 7 ) . J á q ue o c o m p u t a d o r e s t a r i a i n t e r a g i n d o c o m
o astronauta, criar a interação entre o homem e o computador foi um dos
primeiros grandes desafios que o projeto enfrentou (Ceruzzi 1989, pág. 99).
Treinar um astronauta para a utilização dos sistemas computadorizados e de vôo
ocupava a metade de seu tempo e trabalho. Engenheiros, como o projetista-chefe
Eldon Hall, chegaram a reconhecer que toda consideração feita ao projeto girava
e m t o r n o d a m e l h o r m a n e i r a d e s e a t i ng i r o s u c e s s o c o m d e t e r m i n a d o s r e c u r s o s ,
porque sucesso significava a segurança dos astronautas, e que o processo de
revisão e verificação da segurança eram brutais (Hall 2000, pág. 29). Dessa
forma, a maioria dos trabalhos discute as maravilhas técnicas que permitiram que
a confiança e a segurança fossem alcançadas.
Seria insensato argumentar que os computadores são dispositivos
infalíveis, mas Charles Draper argumentou que ele, piloto e engenheiro bem
i n f o r m a d o , c o n f i a r i a s u a v i d a a e l e s , c ri a n d o a s s i m u m a a t i t u d e d e s p r e o c u p a d a ,
permitindo que os computadores provem o quanto eles são capazes. Com o uso
d o c o m p u t a d o r d i g i t a l , r a p i d a m e n t e a N AS A p e r c e b e u q u e e l e p o d e r i a e d e v e r i a
fazer mais do que apenas orientar, como fazer ajustes precisos à aeronave e
1
N.T.: Minuteman - membro da milícia americana que durante a Guerra da Independência se comprometia a
entrar em ação um minuto depois de convocado.
possivelmente assumir a função de piloto principal. Os artigos me sugeriram que
já que os seres humanos tinham tão pouca experiência em voar no espaço e
estavam temerosos pela magnitude do que esperavam realizar que eles nunca
d u v i d a r a m q u e o q u e e l e s q u e r i a m f a z e r e xi g i a d a r a o c o m p u t a d o r q u a s e t o d o o
c o n t r o l e m e c â n i c o . P o r t a n t o , a p e n a s a s i ns t r u ç õ e s e e m e r g ê n c i a s s e r i a m d e i x a d a s
para o homem. A desvantagem é o grande perigo na ocorrência de uma falha de
s i s t e m a . H u m a n o s e c o m p u t a d o r e s , i g u al m e n t e , c o m e t e m e r r o s , m a s h u m a n o s
não entram em "pane" e precisam reiniciar, e eles podem reconhecer mais
f a c i l m e n t e s e u s e r r o s e c o r r i g i - l o s . Q u a nd o a l g o i n e s p e r a d o a c o n t e c e s ó u m
humano sabe como reagir, e nestas situações durante o vôo ele tem a
oportunidade de reagir de algum modo; a aeronave não é capaz de escolher boas
alternativas por computadores. Acredito que a verificação final e o nível de
controle devam ser deixados para os humanos e que isto se estenda a todos os
campos focados na vida; um exemplo é a medicina. Um computador pode ser
usado para fazer um diagnóstico baseado em sangue, mas se ele conclui que um
h o m e m e s t á g r á v i d o o u u m a p e s s o a s em q u a l q u e r m a n c h a t e m c a t a p o r a , o
médico pode concluir que o computador não está correto, e isso só é possível
através da experiência humana que ele possui.
Por enquanto, os computadores nunca podem ter a palavra final em uma
decisão que envolva a vida de um humano. Os sistemas de controle de vôo por
computador e de piloto automático são ótimos em condições previstas, mas a
m e n o r d i v e r g ê n c i a d a s p o s s i b i l i d a d e s c on s i d e r a d a s c o l o c a o s i s t e m a e m u m a
situação onde não se espera que ele se comporte corretamente e, quanto a isso,
é provável que se comporte irracionalmente. No entanto, se os computadores se
tornassem capazes de raciocínio, então seriam capazes de controlar a si mesmos.
Mas neste caso, por que enviar um homem à lua, já que um computador poderia
aproveitar mais a viagem do que ele?
Trabalhos Citados:
C e r u z z i , P a u l E . B e y o n d The Limits: Flight Enters the Computer Age ( C a m b r i d g e ,
M A : M I T P r e s s , 1 9 8 9 ) , c a p . 6 , “ M i n u t e ma n , A p o l l o , a n d t h e C h i p ” ; c a p . 8 ,
“Advances in Simulation, Testing, and Control”; cap. 9, “Software.”
Hall, Eldon C. “From the Farm to Pioneering with Digital Control Computers: An
A u t o b i o g r a p h y , ” I E E E A n n a l s o f t h e H is t o r y o f C o m p u t i n g 2 2 ( A b r i l - J u n h o 2 0 0 0 ) :
22-31.
Hoag, David G. “The History of Apollo On-Board Guidance, Navigation, and
Control.” The Charles Stark Draper Laboratory, P-357, Setembro 1976.