processamento de imagem em biomecânicatavares/downloads/publications/comunicacoes/... · dados e...
TRANSCRIPT
Processamento de Imagem
em Biomecânica
João Manuel R. S. Tavares
[email protected] www.fe.up.pt/~tavares
Mestrado Integrado em Engenharia Biomédica
Porto, 9 Janeiro 2012
Sumário
1. Apresentação
2. Processamento de Imagem em Biomecânica
i. Introdução
ii. Segmentação
iii. Seguimento de Movimento
iv. Análise de Objetos: Emparelhamento, Alinhamento e Simulação
v. Reconstrução 3D
3. Equipa
4. Eventos & Publicações
2 Processamento de Imagem em Biomecânica 2012@João Manuel R. S. Tavares
Apresentação
• Prof. Associado no Dep. de Eng. Mecânica (DEMec) da
FEUP
• Investigador Sénior e Coordenador de Projecto no Lab. de
Óptica e Mecânica Experimental (LOME) do INEGI
• Doutorado e Mestre em Eng. Electrotécnica e de
Computadores (FEUP) (com Tese e Dissertação na área do
Processamento e Análise de Imagem)
• Licenciado em Eng. Mecânica (FEUP)
• Áreas de Investigação: Processamento e Análise de
Imagem (segmentação, seguimento, emparelhamento, alinhamento e
reconstrução 3D), Interfaces Homem/Máquina (visualização de
dados e percepção humana), Desenvolvimento de Produto
(dispositivos biomédicos), Movimento Humano (Marcha, Postura)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 4
Introdução
• O sistema sensorial de visão tem elevada importância
para grande parte dos seres vivos
– Podendo disponibilizar informações de índole básica, como
verificar a existência ou não de obstáculos, ou complexa, como o
seguimento e a análise de movimento
– Operações comuns: identificação (segmentação), seguimento e
reconhecimento de movimento (seguimento e análise),
correspondência e alinhamento (emparelhamento e
alinhamento), interpolação de formas (simulação), obtenção da
forma/informação 3D (reconstrução 3D)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 6
Introdução
• Os investigadores da área do Processamento e Análise
de Imagem tentam desenvolver algoritmos
computacionais para realizar de forma automática, ou
semi-automática, operações e tarefas desenvolvidas
pelos (complexos) sistemas de visão dos seres vivos
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 7
Imagens
originais
Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369
Modelo computacional 3D
voxalizado e poligonizado
Introdução
• Algoritmos de Processamento e Análise de Imagem
são de elevado interesse para a Sociedade, sendo
frequentemente usados, por exemplo, em:
– Medicina, Biologia
– Ciências naturais, Desporto
– Engenharia, Indústria
• Exemplos de tarefas comuns envolvendo algoritmos de
Processamento e Análise de Imagem:
– Remoção de ruído, Correcção geométrica
– Segmentação, Reconhecimento (2D-4D)
– Seguimento e análise de movimento, incluindo emparelhamento,
alinhamento e simulação (2D-4D)
– Reconstrução 3D
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 8
Introdução: Processamento e Análise de Imagem – Operações e Objectivos
Processamento de Imagem em Biomecânica 9
Melhoramento
de imagem Segmentação de imagem /
extração de características
seguimento
emparelhamento
simulação
Imagem /
imagens
Análise de
movimento alinhamento
Processamento
de Imagem
Análise de Imagem /
Visão Computacional
2012@João Manuel R. S. Tavares
Visão 3D
Visão por
Computador
Introdução
• (Pré-)Processamento de Imagem: suavização de ruído
por difusão anisotrópica
Processamento de Imagem em Biomecânica 10 2012@João Manuel R. S. Tavares
Segmentação
• Pretende-se identificar de forma automática, ou semi-
automática, os objetos (2D/3D) presentes em imagens
estáticas ou em sequências de imagem
• As técnicas mais comuns são baseadas em
emparelhamento de protótipos, modelações
geométricas, estatísticas e físicas, e redes neuronais
• É uma das operações mais usuais em Visão
Computacional, sendo frequentemente a primeira
“grande” tarefa considerada
• Problemas envolvidos: ruído, baixa resolução, reduzido
contraste, formas não conhecidas, oclusões parciais,
múltiplas estruturas presentes, etc.
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 12
• Segmentação de contornos em pedobarografia dinâmica:
método de Otsu, operadores morfológicos, XOR
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 13
Imagens originais Após segmentação
Bastos & Tavares (2004) LNCS 3179:39-50
Segmentação
camada de contacto
+ vidro
câmara espelho
luz reflectida vidro
pressão camada opaca
lâmpada
lâmpada camada
transparente
Region Growing, x=215; y=254
Segmentação
• Segmentação de estruturas do ouvido: método de
crescimento de regiões
Imagem original Segmentação obtida
(labirinto ósseo)
Barroso et al. (2011) CNME 2011
X: 254 Y: 214
Index: 116.7
RGB: 0.459, 0.459, 0.459
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 14
Segmentação
• Segmentação do lumen da carotida em imagens B-
mode: detetor de orlas, operadores morfologicos,
seguimento de orlas
Segmentação obtida em imagens de Doppler - B-mode (3 exemplos)
Pereira & Tavares (2011) RecPad 2011, 40-41
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 15
Segmentação
• Deteção de tumores na mama a partir de imagens de
mamografia: transformada de Hough
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 16
Chagas et al. (2007) VipIMAGE 2007, 363-368
Imagem original Após segmentação
Segmentação
• Reconhecimento de objetos em imagens:
emparelhamento de imagem protótipo
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 17
Carvalho & Tavares (2005) CMNI 2005
fft fft
ift
3ift D CC 2ift D CC
max CC
Imagem original
Imagem protótipo
Segmentação
• Segmentação de caraterísticas: protótipos deformáveis
geométricos
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 18
Carvalho & Tavares (2006) CompIMAGE 2006, 129-134
Carvalho & Tavares (2007) VipIMAGE 2007, 209-215
Exemplo de um
protótipo deformável
Segmentação
• Segmentação de caraterísticas faciais:
protótipos deformáveis geométricos
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 19
Carvalho & Tavares (2006) CompIMAGE 2006, 129-134
Carvalho & Tavares (2007) VipIMAGE 2007, 209-215
Imagem original e imagens
de campos de energia (força)
Segmentação da íris usando um
protótipo deformável (circulo)
Segmentação do
olho usando um
protótipo deformável
Segmentação
• Segmentação de regiões de pele em imagens: modelos
estatísticos
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 20
Amostras de pele usadas
para construir o modelo
Imagem original e
segmentação obtida
Carvalho & Tavares (2005) CMNI 2005
Carvalho & Tavares (2008) Tékhne VI(9):245-266
Função de probabilidade
usada
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 21
Segmentação
• Segmentação do fundo da cena/objeto em sequências
de imagens: modelos estatísticos
Subtracção do
fundo
Detecção do objecto
em movimento
Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008
Imagens
originais
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 22
Segmentação
• Segmentação do fundo da cena/objeto em sequências
de imagens: modelos estatísticos
Subtracção do
fundo
Detecção do objecto
em movimento
Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008
Vasconcelos & Tavares (2011) EUROMECH Colloquium 511
Imagens originais (www.nada.kth.se/cvap/actions)
Segmentação
• Segmentação de objetos em imagens: modelos de
distribuição pontual (i. e. modelos de forma)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 23
Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241
Segmentação
• Segmentação de objetos em imagens: modelos ativos
de forma
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 24
Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241
Segmentação
• Segmentação de mãos e faces em imagens: modelos
ativos de forma
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 25
Segmentações obtidas (inicial, intermédias e final)
Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241
Segmentação
• Segmentação de objectos em imagens: modelos ativos
de aparência
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 26
Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241
Segmentação
• Segmentação de faces em imagens: modelos ativos de
aparência
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 27
Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241
Imagem original e segmentações obtidas (inicial, intermédia e final)
Segmentação
• Análise do tracto vocal durante a fala partir de imagens
de ressonância magnética: modelos ativos de forma
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 28
Vasconcelos et al. (2011) Journal of Voice 25(6):732-742
Segmentação
intermédia II
Imagem
original +
modelo médio
Segmentação
final
Segmentação
intermédia I
Segmentação
• Análise do tracto vocal durante a fala partir de imagens de
ressonância magnética: modelos ativos de aparência
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 29
Vasconcelos et al. (2011) Journal of Engineering in Medicine 225(1):68-76
Vasconcelos et al. (2011) Journal of Engineering in Medicine, DOI:10.1177/0954411911431664 (in press)
Segmentações
intermédias
Segmentação
inicial
Segmentação
final
Segmentações
intermédias
Segmentação
• Segmentação de objetos em imagens: contornos ativos
(i.e. snakes)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 30
Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220
Segmentação
• Segmentação de objetos em imagens: contornos ativos
(i.e. snakes)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 31
Imagem original e
contorno inicial
Contorno final
Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220
Segmentação
• Segmentação de objetos em imagens: contorno
deformável, FEM, equação de Lagrange
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 32
Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55
Segmentação
• Segmentação de objetos em imagens: contorno
deformável, FEM, equação de Lagrange
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 33
Imagens originais e contornos iniciais Contornos finais
Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55
borracha
k = 200N/m
14s
Segmentação
• Segmentação de objetos em imagens: métodos de level
set
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 34
Ma et al. (2010) Medical Engineering & Physics 32(7):766-774
Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246
Segmentação
• Segmentação de objetos em imagens médicas: método
de level set
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 35
Imagem original Segmentação inicial Segmentação final
Perdigão et al. (2005) Encontro_1_Biomecânica, 81-85
Segmentação
• Segmentação de bifurcação da carótida em imagens de
Doppler: métodos de contornos ativos e de level set
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 36
Segmentação usando um modelo de
contornos ativos (Yessi)
Silva et al. (2011) VipIMAGE 2011, 117-122
Segmentação usando um modelo de
level set (Chan-Vese)
Segmentação
• Segmentação de objetos em imagens: métodos de level
set, conhecimento prévio
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 37
Ma et al. (2010) Medical Engineering & Physics 32(7):766-774
Segmentação
• Segmentação do pavimento pélvico feminino a partir de
imagens de ressonância magnética: método de level set,
conhecimento prévio
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 38
Ma et al. (2010) Medical Engineering & Physics 32(7):766-774
Segmentação do pavimento pélvico
Segmentação
• Segmentação de órgãos da cavidade pélvica feminina a
partir de imagens de ressonância magnética: modelos de
level set, conhecimento prévio
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 39
Ma et al. (2011) Computers in Biology and Medicine (submitted)
Ma et al. (2011) The Int. Journal for Numerical Methods in Biomedical Engineering, DOI: 10.1002/cnm.2463
Segmentação de órgãos (bexiga, pavimento pélvico, ânus) da cavidade pélvica
(3 exemplos)
Segmentação
• Segmentação da bexiga a partir de imagens de
ressonância magnética: modelos de level set,
conhecimento prévio
Ma et al. (2011) Annals of Biomedical Engineering 39(8):2287-2297
Segmentação das paredes internas e externas da bexiga (3 exemplos)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 40
Segmentação
• Nova plataforma para segmentação de imagens
médicas (VC++, OpenCV, ITK)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 41
Interface da plataforma
Ma et al. (2008) CMBBE 2008
Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246
Segmentação
• Segmentação de órgãos da cavidade pélvica da mulher
a partir de imagens de ressonância magnética: nova
plataforma
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 42
Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246
Crescimento de regiões Watershed
Método de Malladi Contorno ativo geodésico Level-set framework
Seguimento
• Pretende-se seguir o movimento e/ou a deformação de
estruturas em sequências de imagem (2D/3D)
• Nesta área, destacam-se as técnicas baseadas em fluxo
óptico, emparelhamento de blocos e em métodos
estocásticos
• Usualmente, envolve a estimativa do movimento
envolvido, a gestão das entidades seguidas, a análise
do movimento seguido bem como a sua quantificação
• Problemas envolvidos: movimento não rígido, distorção
geométrica, condições de iluminação variáveis,
oclusão, ruído, múltiplas estruturas, etc.
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 44
Seguimento
• Plataforma desenvolvida para
seguimento de entidades (pontos
/ rectas) em sequências de
imagem: filtro de Kalman ou
filtro Unscented Kalman,
otimização, distância de
Mahalanobis, modelo de
gestão
Processamento de Imagem em Biomecânica 45
Pinho et al. (2007) Int. Journal of Simulation Modelling 6(2):84-92
Pinho & Tavares (2009) VipIMAGE 2009, 299-304
Pinho & Tavares (2009) Computer Modeling in Engineering &
Sciences 46(1):51-75
2012@João Manuel R. S. Tavares
Seguimento
• Seguimento de marcas em análise da marcha: filtro de
Kalman, distância de Mahalanobis, otimização, modelo
de gestão
Processamento de Imagem em Biomecânica 46
Previsão Incerteza Medição Correspondência Resultado
Pinho et al. (2005) ICCB 2005, 915-926
Pinho & Tavares (2009) Computer Modeling in Engineering & Sciences 46(1):51-75
(5 frames)
2012@João Manuel R. S. Tavares
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 47
Sousa et al. (2007) ISHF2007, 331-340
Sousa et al. (2007) ICCB2007, 291-296
Seguimento
• Análise da marcha com deteção de
eventos: filtro de Kalman, distância
de Mahalanobis, otimização
48 Processamento de Imagem em Biomecânica
Pinho et al. (2005) LSCCS, Vol. 4A:463-466
Pinho et al. (2007) International Journal of Simulation Modelling 6(2):84-92
(547 frames)
Seguimento
• Seguimento de ratos em sequências longas de imagem:
filtro de Kalman, distância de Mahalanobis, otimização,
modelo de gestão
2012@João Manuel R. S. Tavares
Processamento de Imagem em Biomecânica 49
Seguimento
• Seguimento de ratos numa sequência de imagem real:
filtro de Kalman (KF) e filtro Unscented Kalman (UKF)
#15 #16 #17
KF
UKF
(22 frames)
2012@João Manuel R. S. Tavares
+ previsão
x medição
x correcção
Processamento de Imagem em Biomecânica 50
Seguimento
• Seguimento de ratos numa sequência de imagem real:
filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –
cont.
Resultados do filtro de
Kalman
Resultados do filtro Unscented
Kalman
2012@João Manuel R. S. Tavares
(22 frames)
Processamento de Imagem em Biomecânica 51
Seguimento
• Seguimento de ratos numa sequência de imagem real:
filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –
cont.
2012@João Manuel R. S. Tavares
(22 frames)
Erro de seguimento (previsão/estado real)
Processamento de Imagem em
Biomecânica: Emparelhamento,
Alinhamento e Simulação –
Análise de Objetos
Análise de Objetos
• Emparelhamento
– É uma das tarefas mais usuais em Visão Computacional, por
exemplo, para alinhar estruturas, reconhecer estruturas, obter
informação 3D, analisar movimento, etc.
– Geralmente é conseguido através da consideração de
características invariantes, como a curvatura, ou de
deslocamentos (assinaturas) em espaços globais/próprios,
como no espaço modal ou de Fourier
– Problemas envolvidos: oclusão, deformações não rígidas,
variações elevadas de forma, etc.
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 53
Emparelhamento
• Emparelhamento de contornos em imagens: modelação
física/geométrica, análise modal, otimização
Processamento de Imagem em Biomecânica 54
Bastos & Tavares (2006) Inverse Problems in Science and Engineering 14(5):529-541
Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368
2012@João Manuel R. S. Tavares
• Emparelhamento de contornos em pedobarografia
dinâmica: FEM, análise modal, otimização
Emparelhamento
Processamento de Imagem em Biomecânica 55
Imagens originais Contornos
emparelhados
Bastos & Tavares (2004) LNCS 3179:39-50
Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368
2012@João Manuel R. S. Tavares
camada de contacto
+ vidro
câmara espelho
luz reflectida vidro
pressão camada opaca
lâmpada
lâmpada camada
transparente
Emparelhamento
• Emparelhamento de contornos e superfícies em
pedobarografia dinâmica: FEM, análise modal, otimização
Processamento de Imagem em Biomecânica 56
Imagem de
pedobarografia
dinâmica
Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20
Emparelhamento de
dois contornos
Emparelhamento entre duas superfícies de intensidade (pressão) (2 vistas)
Emparelhamento entre iso-contornos (2 vistas)
2012@João Manuel R. S. Tavares
• Emparelhamento de contornos e superfícies em
pedobarografia dinâmica: FEM, análise modal,
otimização
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 57
Emparelhamentos obtidos
entre iso-contornos
Emparelhamentos obtidos
entre superfícies
Bastos & Tavares (2004) LNCS 3179:39-50
Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20
Emparelhamento
Análise de Objetos
• Alinhamento
– É uma tarefa habitualmente necessária para comparar objetos
representados em imagens adquiridas em instantes de tempo
distintos ou segundo diferentes condições/técnicas
– O alinhamento é geralmente essencial, por exemplo, em medicina
para analisar a evolução de patologias a partir de imagens
– Geralmente é conseguido através da consideração de
características invariantes, como pontos de curvatura máxima,
emparelhamento e estimativa da transformação envolvida
– Problemas envolvidos: características não determinadas
facilmente, deformações não rígidas, variações elevadas de
forma, etc.
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 58
Alinhamento
• Alinhamento de contornos em imagens: modelação
geométrica/física, otimização, programação dinâmica
Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11
Processamento de Imagem em Biomecânica 59 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de contornos em imagens: modelação
geométrica, otimização, programação dinâmica
Imagens originais e
contornos extraídos
Contornos
emparelhados antes
do alinhamento
Contornos após
alinhamento
Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11
Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110
Processamento de Imagem em Biomecânica 60 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de pedobarografia: modelação
geométrica, otimização, programação dinâmica
Imagens originais e contornos
extraídos Contornos emparelhados e imagens
antes e após alinhamento
Oliveira et al. (2009) Journal of Biomechanics 42(15):2620-2623
Processamento de Imagem em Biomecânica 61 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de pedobarografia:
transformada de Fourier
Imagens originais Imagens antes e após
alinhamento
Oliveira et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(6):731-740
Processamento de Imagem em Biomecânica 62 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de pedobarografia: método
híbrido: Alinhamento de Contornos ou Alinhamento
baseado na transformada de Fourier + Otimização de
semelhança (MSE/MI/XOR)
Imagens originais, antes e após
alinhamento Oliveira & Tavares 2011 Medical & Biological
Engineering & Computing 49(3):313-323
Processamento de Imagem em Biomecânica 63 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de pedobarografia para
identificação (esq. / direito), extração de medidas e
índices
Imagens originais, após normalização,
contornos e áreas identificadas
Oliveira et al. 2011 Computer Methods in
Biomechanics and Biomedical Engineering, DOI:
10.1080/10255842.2011.581239 (in press)
Processamento de Imagem em Biomecânica 64 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de uma mesma modalidade:
alinhamento de contornos
Suavização
Extracção do contorno
Extracção
do
contorno
Binarização
Processamento de Imagem em Biomecânica 65 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de uma mesma modalidade:
alinhamento de contornos - cont.
Imagens
a alinhar
Contornos antes/após
emparelhamento
Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11
Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110
Processamento de Imagem em Biomecânica 66 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de uma mesma modalidade:
alinhamento de contornos - cont.
67
Imagens
Alinhadas
Imagem
originais
Soma
Soma Diferença
Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11
Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110
Processamento de Imagem em Biomecânica 67 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de uma mesma modalidade:
maximização direta da correlação cruzada (transformada
de Fourier)
68
Imagens
Alinhadas
Imagem originais
(RM - proton density)
Soma
Soma Diferença
Oliveira et al. (2010) Computer Methods in
Biomechanics and Biomedical
Engineering 13(6):731-740
Processamento de Imagem em Biomecânica 68 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens de uma mesma modalidade:
otimização pelo Método de Powell de medida de
semelhança (MSE)
69
Imagens
Alinhadas
Imagem
originais (RX)
Soma
Soma Diferença
Oliveira et al. (2011) Medical &
Biological Engineering &
Computing 49(3):313-323
Processamento de Imagem em Biomecânica 69 2012@João Manuel R. S. Tavares
ROI para cálculo
da MSE
Alinhamento
• Alinhamento intermodal (CT/RM): otimização pelo
Método de Powell de medida de semelhança (MI)
70
Imagens
Alinhadas
Imagem
originais
CT RM CT+RM
CT+RM Diferença CT+RM
Oliveira et al. (2011) Medical &
Biological Engineering &
Computing 49(3):313-323
Processamento de Imagem em Biomecânica 70 2012@João Manuel R. S. Tavares
Imagem modelo Imagem a alinhar
Imagem alinhada
Pré-alinhamento usando transformação rígida
Novo pré-alinhamento usando transformação afim
Alinhamento curvo “grosseiro” usando B-splines
Alinhamento “fino” usando B-splines
Metodologia implementada com recurso ao Insight Toolkit (ITK)
Processamento de Imagem em Biomecânica 71 2012@João Manuel R. S. Tavares
Alinhamento
• Otimização iterativa e alinhamento 3D curvo usando B-
splines
71
Princípio
– Após alinhamento global, é realizado um alinhamento local do
tipo free-form deformation
• Otimização iterativa e alinhamento 3D curvo usando B-
splines
Processamento de Imagem em Biomecânica 72 2012@João Manuel R. S. Tavares
Alinhamento
72
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D Xadrez das imagens pré-alinhamento (CT, tórax – mesma pessoa, Δt: 8.5 meses)
(xadrez - construído substituindo algumas partes (voxels) da imagem modelo pelas partes da
imagem a alinhar que têm as mesmas coordenadas das partes retiradas à imagem modelo)
Processamento de Imagem em Biomecânica 73 2012@João Manuel R. S. Tavares
Alinhamento
73
Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: rígida)
Processamento de Imagem em Biomecânica 74 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D
74
Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: B-splines cúbicas)
Processamento de Imagem em Biomecânica 75 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D
75
Processamento de Imagem em Biomecânica 76 2012@João Manuel R. S. Tavares
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D
Xadrez das imagens pré-alinhamento (CT, cérebro – duas pessoas)
Alinhamento
76
Processamento de Imagem em Biomecânica 77 2012@João Manuel R. S. Tavares
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D
Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: afim)
Alinhamento
77
Processamento de Imagem em Biomecânica 78 2012@João Manuel R. S. Tavares
• Alinhamento de imagens 3D: otimização iterativa,
alinhamento 3D
Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: B-splines cúbicas)
Alinhamento
78
Oliveira & Tavares (2011) Computer Methods in Biomechanics and Biomedical Engineering (accepted)
Alinhamento
Alinhamento
Transformação
geométrica
Alinhamento
Transformação
geométrica
… … …
Transformação
geométrica
Processamento de Imagem em Biomecânica 79 2012@João Manuel R. S. Tavares
• Alinhamento de imagens: usando multi-resolução
Alinhamento
79
Xadrez das imagens pré-alinhamento (CT/MR-PD, cérebro, mesmo paciente)
Processamento de Imagem em Biomecânica 80 2012@João Manuel R. S. Tavares
• Alinhamento de imagens 3D: multi-resolução,
otimização iterativa, alinhamento 3D
Alinhamento
80
Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: rígida)
Processamento de Imagem em Biomecânica 81 2012@João Manuel R. S. Tavares
• Alinhamento de imagens 3D: multi-resolução,
otimização iterativa, alinhamento 3D
Alinhamento
81
Alinhamento
• Alinhamento de sequências de imagem 2D: alinhamento
espacial e temporal
Oliveira et al. (2011) Medical &
Biological Engineering &
Computing 49(7):843-850
Processamento de Imagem em Biomecânica 82 2012@João Manuel R. S. Tavares
Alinhamento
• Alinhamento de sequências de imagem 2D de
pedobarografia dinâmica: alinhamento espacial e
temporal
83
Sequências originais
antes do alinhamento
Sequências pré-
processadas
Sequências de
imagem originais
Sequências após
alinhamento
camada de contacto
+ vidro
câmara espelho
Processamento de Imagem em Biomecânica 83 2012@João Manuel R. S. Tavares
Oliveira et al. (2011) Medical &
Biological Engineering &
Computing 49(7):843-850
Alinhamento
• Alinhamento de sequências de imagem 2D de
pedobarografia dinâmica: alinhamento espacial e
temporal
84
Sequências originais
antes do alinhamento
Sequências pré-
processadas
Sequências de
imagem originais
Sequências após
alinhamento
Processamento de Imagem em Biomecânica 84 2012@João Manuel R. S. Tavares
Oliveira et al. (2011) Medical &
Biological Engineering &
Computing 49(7):843-850
Análise de Objectos
• Simulação
– É uma tarefa muito usada em Computação Gráfica (morphing)
mas também muito útil em Visão Computacional, por exemplo,
para estimar a deformação existente entre duas estruturas
distintas ou entre dois instantes de uma mesma estrutura,
estimar as transições entre duas formas adquiridas com
espaçamento temporal elevado, etc.
– Geralmente é conseguida através da consideração de
transformações geométricas
– No entanto, quando se deve considerar o comportamento físico
das estruturas envolvidas, devem ser usadas metodologias e
modelações físicas (por exemplo, usando FEM)
• Dificuldades comuns são relativas à estimativas das forças
envolvidas e das propriedades adoptadas para os materiais
• Fase de emparelhamento das estruturas torna-se crucial
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 85
Simulação
Processamento de Imagem em Biomecânica 86
• Simulação (morphing) física de contornos em imagens:
FEM, análise modal, otimização, eq. de Lagrange
2012@João Manuel R. S. Tavares
• Simulação de contornos em imagens: FEM, análise
modal, otimização,
equação de Lagrange
Emparelhamento
obtido
Deformações
simuladas
Simulação
Processamento de Imagem em Biomecânica 87
Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18
Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55
Imagens originais
2012@João Manuel R. S. Tavares
• Simulação de contornos em imagens: FEM, análise
modal, otimização, equação de Lagrange
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 88
Emparelhamentos
obtidos
Deformações
simuladas
Emparelhamentos
obtidos Deformações
simuladas
Imagens originais
Simulação
Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18
Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55
Reconstrução 3D
• Pretende-se obter a forma 3D de objectos ou a
informação 3D de cenas a partir de imagens 2D
• Nesta área, destacam-se: 1) formas exteriores: técnicas
ativas (com projecção de energia ou movimento relativo),
passivas (sem projecção de energia ou movimento relativo)
e de escavação espacial; 2) formas interiores:
segmentação 2D (i.e. contornos) e interpolação, e
segmentação 3D
• Usualmente, envolve tarefas de calibração,
segmentação, emparelhamento, triangulação e
interpolação
• Problemas envolvidos: distorção geométrica, iluminação
variável, oclusão, ruído, formas complexas, etc.
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 90
Reconstrução 3D
• Reconstrução 3D de objetos a partir de slices:
segmentação 2D, Delaunay, marching cubes
Perdigão et al. (2005) CMNI 2005
Pimenta et al. (2006) CompIMAGE 2006, 343-348
Alexandre et al. (2007) VipIMAGE 2007, 359-362
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 91
Reconstrução 3D
• Reconstrução 3D de órgãos a partir de imagens
médicas: segmentação 2D, Delaunay, marching cubes
Segmentação realizada num
slice e reconstrução 3D obtida
Órgãos do braço reconstruidos 3D Perdigão et al. (2005) CMNI 2005
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 92
Reconstrução 3D
• Reconstrução 3D de órgãos da cavidade pélvica
feminina partir de imagens de ressonância magnética:
segmentação 2D, loft, suavização
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 93
Segmentação 2D
realizada num slice Pavimento pélvico
reconstruído 3D
Órgãos da cavidade
pélvica reconstruídos 3D
Pimenta et al. (2006) CompIMAGE 2006, 343-348
Alexandre et al. (2007) VipIMAGE 2007, 359-362
slices
Reconstrução 3D
• Reconstrução 3D de cenas a partir de sequências de
imagem: visão estéreo densa
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 94
Azevedo et al. (2006) VISAPP 2006, 383-388
Reconstrução 3D
• Reconstrução 3D de uma cena a partir de par de
imagens: visão estéreo densa
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 95
Mapa de disparidade
obtido Par de imagens original
Azevedo et al. (2006) VISAPP 2006, 383-388
Reconstrução 3D
• Reconstrução 3D de objetos a partir de sequências de
imagem: escavação espacial
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 96
Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and
Applications, 117-136
Reconstrução 3D
• Reconstrução 3D de objetos a partir de sequências de
imagem: escavação espacial
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 97
Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and
Applications, 117-136
Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369
Imagens originais Modelo computacional 3D obtido
voxalizado e poligonizado
Reconstrução 3D
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 98
Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369
• Reconstrução 3D de objetos a partir de sequências de
imagem: escavação espacial
Imagens originais Modelo computacional 3D obtido
voxalizado e poligonizado
• Reconstrução 3D da coluna a partir de duas
radiografias 2D e usando um modelo deformável (atlas)
Reconstrução 3D
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 99
Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138
Moura et al. (2011) Medical Engineering & Physics 33(8):924-933
Interface desenvolvida Modelo ajustado (duas vistas) e
reconstrução obtida
• Reconstrução 3D a partir de radiografias 2D: calibração
Reconstrução 3D
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 100
Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138
Moura et al. (2011) Medical Engineering & Physics 33(8):924-933
Método
desenvolvido
Calibração de um sistema
de Raio-X
• Reconstrução 3D a partir de radiografias 2D: calibração
Reconstrução 3D
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 101
Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138
Moura et al. (2011) Medical Engineering & Physics 33(8):924-933
Estimativa da distância entre a
fonte de Raio-X e a mesa
Duas radiografias de uma coluna seca usada para
validar a calibração e reconstrução 3D obtida
Sumário
• A área da Visão Computacional é complexa e exigente,
mas de elevado interesse em muitos domínios, em
particular em Medicina
• Vários desafios existem, como, por exemplo, condições
de aquisição difíceis, oclusão, formas e topologias
complexas, movimentos complicados
• Trabalho considerável já foi desenvolvido, mas existem
ainda muitos desafios importantes e difíceis a resolver
• Métodos e metodologias de outras áreas do
conhecimento, como da Matemática, Mecânica
Computacional, Medicina e Biologia, podem contribuir para
a resolução de tais desafios
• Para tal, Colaborações são Necessárias e Bem-vindas 103 Processamento de Imagem em Biomecânica 2012@João Manuel R. S. Tavares
Equipa (Visão Computacional)
• Estudantes de Doutoramento (13):
– Concluído: Daniel Moura, Teresa Azevedo, Sandra Rua
– Em curso: Raquel Pinho, Patrícia Gonçalves, Maria Vasconcelos,
Ilda Reis, Zhen Ma, Elza Chagas, Francisco Oliveira, António
Gomes, João Nunes, Alex Araújo
• Estudantes de Mestrado (20):
– Concluídos: Elisa Barroso, Ana Jesus, Célia Cruz, Priscila Alves,
Frederico Jacob, Daniela Sousa, Francisco Oliveira, Teresa
Azevedo, Maria Vasconcelos, Raquel Pinho, Luísa Bastos, Cândida
Coelho, Jorge Gonçalves
– Em curso: Jorge Pereira, Carolina Tabuas, Gabriela Queiros, Diana
Cidre, Diogo Faria, Nuno Mafra, Luís Ferro
• Estudantes de pré-Graduação (2)
– Concluídos: Ricardo Ferreira, Soraia Pimenta 105 Processamento de Imagem em Biomecânica 2012@João Manuel R. S. Tavares
Agradecimentos
• Os trabalhos apresentados têm vindo a ser realizados
parcialmente com o apoio da Fundação para a Ciência e a
Tecnologia (FCT) em Portugal, nomeadamente, através
dos projetos:
– PTDC/SAU-BEB/102547/2008
– PTDC/SAU-BEB/104992/2008
– PTDC/EEA-CRO/103320/2008
– UTAustin/CA/0047/2008
– UTAustin/MAT/0009/2008
– PDTC/EME-PME/81229/2006
– PDTC/SAU-BEB/71459/2006
– POSC/EEA-SRI/55386/2004
106 Processamento de Imagem em Biomecânica 2012@João Manuel R. S. Tavares
Webpage (www.fe.up.pt/~tavares)
2012@João Manuel R. S. Tavares Processamento de Imagem em Biomecânica 108
Processamento de Imagem
em Biomecânica
João Manuel R. S. Tavares
[email protected] www.fe.up.pt/~tavares