Pipelining
PROF. FELIPE FERREIRA DE OLIVEIRA
Sumário
 Introdução
 Problemas com Pipelining
Introdução
 Pipelining é uma técnica de implementação aonde





múltiplas instruções são executadas simultaneamente.
Aproveita o paralelismo das ações necessárias para
executar uma instrução.
Pipeline é como uma linha de montagem. Etapas
diferentes completam diferentes partes da instrução.
Cada passo é denominado pipe stage ou pipe segment
Throughput é dado por instruções por tempo
O tempo dado para que uma instrução passe para o
próximo passo é dado por x ciclos de processador (x é
normalmente 1, mas pode ser 2.)
Introdução
 A meta de um projetista de pipeline é balancear o tamanho
de cada estágio de pipeline.
 Quando tudo está balanceado, temos um tempo por
instrução com pipeline de
 Implicando que o ganho é igual ao número de estágios de
pipe. Porém, isso é uma situação ideal. Na prática, depende
da dependência entre dados e do tratamento do
processador.
Introdução
 Dois pontos de vista
 Processador demora múltiplos ciclos de clock por
instrução, então teremos uma diminuição de CPI
 Processador usa um ciclo de clock por instrução, então o
pipeline diminui o tempo do ciclo de clock
 Diferentemente de outras técnicas de paralelismo,
ela não é visível ao programador.
Introdução
 Uma arquitetura RISC é caracterizada por poucas
propriedades norteadoras, o que facilita a
implementação.



Todas as operações aplicadas a dados localizam-se em
registros.
As únicas operações que interagem com a memória é load e
store
Existem poucas instruções com todas de tamanho único
Introdução
 No nosso estudo, trabalharemos com o MIPS de 64
bits. 32 registradores. Possui 3 classes de instruções.

Instruções ULA


Instruções load-store


Os operandos localizam-se em um ou dois registradores. O
resultado é colocado em outro registrador. As instruções básicas
são soma(DADD), subtração(DSUB) e lógicas(AND, OR)
Um registrador contém a base e outro o offset. Base+offset contém
o endereço do dado na memória.
Desvios e Jumps
Introdução
 Antes de entrarmos em pipeline, vamos entender o
funcionamento sem o uso do pipeline. No exemplo a
seguir, todas as intruções demoram no máximo 5
ciclos de clock. A partir daí, implementaremos
pipeline para vermos o ganho do desempenho dado
em CPI.
Introdução
 Os cinco ciclos de clock para execução de uma instrução são:
1.
Ciclo de instrução de busca: manda o contador do programa (PC)
2.
3.
4.
5.
para a memória e busca a instrução. Soma mais 4 ao PC (cada
instrução possui 4 bytes)
Ciclo de decodificação: decodifica a instrução e atualiza os
registradores, analisando se será necessário algum desvio.
Ciclo de Execução: a ALU gera um endereço de memória somando
uma base com offset OU executa instrução ALU registradorregistrador determinado no campo de opcode do registrador OU
executa instrução ALU registrador-imediato operando o
registrador e dado residente na memória
Ciclo de Acesso a Memória: escreve (write) ou lê (read) dados da
memória.
Ciclo Write/back: Escreve o resultado no registrador, o dado
vindo da memória ou da ALU
Introdução
 No nosso exemplo, um desvio leva 2 ciclos,
armazenamento demora 4 ciclos e o resto demora 5
ciclos.
 Supondo que o desvio acontece com uma freqüência
de 12% e armazenamento tem freqüência de 10%,
então teremos um CPI de 4.54.
 Agora, vamos imaginar um pipeline para a execução
acima. Portanto, a cada ciclo de clock, uma nova
instrução começa a ser executada. E em todos os
momentos todos os estágios do pipe estão
trabalhando em uma execução. Figura a seguir.
Introdução
Introdução
 O caso acima é o ideal, mas não real. Podem ocorrer
conflitos que impedem a ilustração anterior, tais
como:



Realizar instruções com os mesmos dados
Uma única ALU não pode determinar um endereço e efetuar
operações matemáticas simultaneamente.
Alguns passos utilizam os mesmos elementos
 O que fazer para otimizar?
 Separação de memória: instruções e dados. Caches separados.
 Passo ID e WB acessam o registrador. Necessita-se de duas
leituras e uma escrita em cada ciclo. No primeiro semiciclo se
faz a escrita e no segundo semiciclo se faz a leitura.
Introdução
 Para se iniciar uma nova instrução em cada clock
precisa-se incrementar o PC que deve ser feito
durante a fase IF. Mas e se, durante a fase seguinte
(ID), for constatado que se trata de um desvio?

Essa peculiaridade deve ser tratada pelo sistema
 Para melhor administração (evitar conflitos), é
inserido ainda um registrador de pipeline
intermediário entre cada ciclo de clock que, muitas
vezes, é omitido nos esquemas. Também garante
armazenamento temporário de dados quando não se
vai usá-los seqüencialmente
Introdução
 Exemplos:
 Numa função store, se lê o dado do registrador na fase ID, mas
apenas o usa durante a fase MEM. Logo, passa direto por dois
registradores de pipeline
 O resultado de uma instrução ALU é calculada durante a fase
EX, mas só é armazenada em WB. Logo o dado passa direto
por dois registradores de pipeline
 Nomenclatura dos registradores de pipeline
 IF/ID, ID/EX, EX/MEM e MEM/WB
Introdução
 ANÁLISE DE PROBLEMAS CENTRAIS NO
PIPELINING
 Pipeline aumenta o número de instruções completas por
tempo, mas não aumenta o tempo de uma única
instrução. Pode ocorrer até mesmo o aumento de tempo
de execução de uma única instrução, mas o ganho total
sempre será maior.
 Limitações da Tecnologia:



O fato de não aumentar o tempo de execução de uma única
instrução.
Questão do desequilíbrio dos pipes. Existência de pipes gargalos.
Latência do Pipeline
Instrudução
Problemas no Pipeline
 Podem ocorrer problemas que impedem a execução
do fluxo de instruções. Isso acarreta diminuição no
speedup. Existem 3 tipos:



Problemas estruturais: devido conflito de recursos quando
o hardware não consegue resolver simultaneamente todas as
instruções sobrepostas simultaneamente.
Problemas de dados: quando uma instrução depende do
resultado de outra que ainda está sendo executada.
Problemas de controle: quando um desvio é executado ou
outras instruções que alteram o PC.
Problemas no Pipeline
 Quando ocorre problemas, torna-se necessário parar
o pipeline.
 Para evitar problemas, pode-se adiar determinados
processos e retardar outros.
 Ao ser necessário uma parada em determinado
processo, os processos que encontram-se a frente
continuam normalmente, porém os que ficam atrás
também param. Durante uma parada nenhum novo
processo é inserido.
Problemas no Pipeline
 ANÁLISE DE PERFORMANCE COM PARADAS
 Logicamente, que as paradas causam decremento no
desempenho. Observemos as equações abaixo, considerando
um CPI pipelined ideal.
Problemas no Pipeline
 PROBLEMAS ESTRUTURAIS
 Quando um processador usa pipeline, a execução
sobreposta de instruções requer pipelining de
unidades funcionais e duplicação de recursos para
permitir que todos os possíveis combinações de
instruções no pipeline. Se alguma combinação de
instruções não pode ser acomodado por causa de
conflitos de recursos, está caracterizado um
problema estrutural.
Problemas no Pipeline
 PROBLEMAS ESTRUTURAIS
 Ocorre quando uma unidade funcional não está totalmente na
estrutura pipeline
 Os recursos não foram duplicados de forma a garantir todas as
combinações de instruções.
 Toda vez que eles ocorrem, ocorre a parada, aumentado o CPI
(CPI = 1 no caso ideal)
 Exemplos:
uma única porta de escrita em registrador.
 Alguns processadores com pipeline compartilham uma mesma
memória para dados e instruções. Isso garante um ciclo de clock
de parada. Ver figuras a seguir

Problemas no Pipeline
Problemas no Pipeline
Problemas no Pipeline
 Exemplo
 Supondo o CPI pipelined ideal de 1 e que as operações de
referência a memória são 40% do total. Um processador com
problema estrutural tem um tempo de processamento 1,05
maior do que um sem problema estrutural. Qual o ganho do
sistema sem problema?
Problemas no Pipeline
 PROBLEMAS ESTRUTURAIS
 Solução
Separar dados em duas memórias distintas: dados e instruções
 Separar memória cache: dados e instruções
 Uso de buffers que armazenam instruções temporariamente


Lógico que o desempenho de um sistema sem problemas
estruturais é superior, porém os custos de duplicação de
recursos muitas vezes não compensa o ganho. Depende da
aplicação.
Problemas no Pipeline
 PROBLEMAS DE DADOS
 Problemas de dados ocorrem quando o pipeline
muda a ordem de leitura / escrita dos operandos em
relação ao que seria quando não-pipeline.
Problemas no Pipeline
 PROBLEMAS DE DADOS
 Minimizando paradas devido problemas de dados
através de encaminhamento



O resultado da ALU armazenado nos registradores de pipeline
EX/MEM e MEM/WB são usados como entradas da ALU das
próximas instruções.
Se o hardware com encaminhamento perceber que a instrução
anterior irá escrever nos registradores que serão lidos na atual
instrução, o controle lógico seleciona o registrador de pipeline
da instrução anterior como entrada de sua ALU.
O encaminhamento deve ocorrer para até dois passos
anteriores
Problemas no Pipeline
 Outro exemplo
 Soma
 Load Double Word
 Store Double Word
Problemas no Pipeline
 Infelizmente, existem alguns casos em que uma
parada é inevitável.
 No caso acima o dado (R1) só é disponibilizado no
quarto ciclo de clock.
Problemas no Pipeline
 Portanto, temos que ter uma parada obrigatória até
que o dado seja buscado na memória