Summary

SSVEP basert Eksperimentell Prosedyre for Brain-Robot Interaksjon med menneskelignende roboter

Published: November 24, 2015
doi:

Summary

The overall goal of this method is to establish an SSVEP-based experimental procedure by integrating multiple software programs to enable the study of brain-robot interaction with humanoid robots, which is prospective in assisting the sick and elderly as well as performing unsanitary or dangerous jobs.

Abstract

Brain-Robot Interaction (BRI), which provides an innovative communication pathway between human and a robotic device via brain signals, is prospective in helping the disabled in their daily lives. The overall goal of our method is to establish an SSVEP-based experimental procedure by integrating multiple software programs, such as OpenViBE, Choregraph, and Central software as well as user developed programs written in C++ and MATLAB, to enable the study of brain-robot interaction with humanoid robots.

This is achieved by first placing EEG electrodes on a human subject to measure the brain responses through an EEG data acquisition system. A user interface is used to elicit SSVEP responses and to display video feedback in the closed-loop control experiments. The second step is to record the EEG signals of first-time subjects, to analyze their SSVEP features offline, and to train the classifier for each subject. Next, the Online Signal Processor and the Robot Controller are configured for the online control of a humanoid robot. As the final step, the subject completes three specific closed-loop control experiments within different environments to evaluate the brain-robot interaction performance.

The advantage of this approach is its reliability and flexibility because it is developed by integrating multiple software programs. The results show that using this approach, the subject is capable of interacting with the humanoid robot via brain signals. This allows the mind-controlled humanoid robot to perform typical tasks that are popular in robotic research and are helpful in assisting the disabled.

Introduction

Brain-Robot Interaction (BRI), som gir en innovativ kommunikasjonsvei mellom menneske og en robot enhet via hjernesignaler, er prospektiv i å hjelpe funksjonshemmede i sitt daglige liv 1,2. En rekke metoder er i stand til å tilegne seg hjernesignaler enten invasiv eller non-invasiv, for eksempel electrocorticography (ECOG), electroencephalograph (EEG), funksjonell magnetisk resonans imaging (fMRI), etc. Den mest brukte non-invasiv metode for å bygge BRI system er å tilegne seg EEG-signaler fra elektroder plassert på hodebunnen. Denne metoden er billig, lett å bruke, og gir et akseptabelt tidsoppløsning tre. Blant en rekke robot enheter, menneskelignende roboter er avansert som de er laget for å etterligne noen av de samme fysiske og mentale oppgaver som mennesker gjennomgår daglig. BRI med en humanoid robot vil spille en viktig rolle i å hjelpe de syke og eldre, samt utføre uhygieniske eller farlige arbeidsplasser. Men kontrollav en humanoid robot gjennom BRI system er svært utfordrende, som humanoid robot med full kroppsbevegelse er utviklet for å utføre komplekse oppgaver som personlig assistanse 4, 5.

Steady-State Visual fremkalt potensial (SSVEP) er en type hjerne signal fremkalt av modulering av visuelle stimulus ved en gitt frekvens 6. Den inneholder sinusoids på de grunnleggende og harmoniske frekvenser av flimring stimulans, og tydelig vises i hele den visuelle cortex i occipital regionen i hodebunnen 7. Bakgrunnen for å velge de SSVEP signalene er at SSVEP baserte BRI system gir relativt høy informasjon overføringshastighet og krever mindre trening 8. Andre typer hjernebølger, for eksempel hendelsesrelaterte potensialer (ERP) 9 eller motor-bilder (MI) potensialer 10, kan også bygges inn i denne eksperimentelle prosedyren.

Vår prosedyre for hjerne-robot interaksjon med humanoidroboter er basert på Cerebot – en tankestyrt humanoid robot plattform – som består av en EEG datainnsamling system og en humanoid robot 11. EEG-systemet er i stand til å ta opp, pre-prosessen og vise bio-potensial signaler ervervet av ulike typer elektroder. Det gir flere analoge I / Os og digital I / Os og kan ta opp inntil 128 signal kanaler samtidig på en samplingsfrekvens på 30 kHz med 16-bits oppløsning. Sine programvareutviklingssett i C ++ og MATLAB er enkelt for brukerne å designe de eksperimentelle prosedyrer. Humanoid robot har 25 frihetsgrader og er utstyrt med flere sensorer, inkludert 2 kameraer, 4 mikrofoner, 2 sonaravstandsmålere, 2 IR sender og mottaker, en treghet brett, 9 taktile sensorer og 8 trykksensorer. Det gir Choregraphe og C ++ SDK for å lage og redigere bevegelser og interaktive robot atferd.

Det overordnede målet med denne metoden er å etablere en SSVEP basert eksperimentell procedure ved å integrere flere programmer, for eksempel OpenViBE, Choregraph, Central-programvare og bruker utviklet programmer skrevet i C ++ og MATLAB, slik at studiet av hjerne-robot interaksjon med menneskelignende roboter 11. Figur 1 viser systemstruktur. Den dedikerte stimulus presentasjon datamaskin (SPC) viser brukergrensesnittet for å gi emnet med visuelle stimuli, instrukser og miljø tilbakemeldinger. Den dedikerte databehandlings datamaskin (DPC) kjører Data Recorder og offline data Analyzer i frakoblet opplæringsprosessen, og driver Online Signal Processor og Robot Controller for den elektroniske styringen av humanoid robot. Sammenlignet med andre SSVEP-baserte systemer, er vårt system mer pålitelig, mer fleksibel, og særlig mer praktisk å bli gjenbrukt og oppgradert slik den er utviklet ved å integrere en rekke standardiserte programvarepakker som OpenViBE, Choregraph, Central-programvaren, og Modulene skrevet i C ++og MATLAB.

Følgende prosedyre ble gjennomgått og godkjent av Tianjin Medical University sykehuset etisk komité, og alle fag ga skriftlig samtykke.

Protocol

1. Anskaffelse av EEG-signaler Forklar den eksperimentelle prosedyren til faget og innhente skriftlig informert samtykke til å delta i eksperimenter. Mål omkretsen av faget hode ved hjelp av et målebånd og velg EEG cap størrelse som er nær målingen. Elektrodene anordning er basert på den "International 10-20 System" 12. Mål avstanden mellom nasion og inion. Bruk en hud markør blyant for å markere 10% av avstanden som en referanse for å justere hetten, og me…

Representative Results

Resultatene som presenteres her, ble erholdt fra en av hannkjønn etter å ha korrigert til normal versjon. Figur 7 viser fremgangsmåten til behandling EEG data, inkludert ekstrahering av en flerkanals data epoke (figur 7A), romlig filtrering av data ved hjelp av CCA-koeffisienter (figur 7B) og beregning av normalisert PSD (figur 7C). Figur 8 viser</s…

Discussion

Dette notatet presenterer en SSVEP basert eksperimentell prosedyre for å etablere hjernen-robot interaksjon system med menneskelignende roboter ved å integrere flere programmer. Fordi human hensikt oppfattes ved å tolke sanntid EEG-signaler, er det viktig å kontrollere elektrodetilkoblinger og EEG signalkvaliteter før gjennomføring av eksperimentet. Hvis signalene kjøpt fra alle elektrodene er for dårlige kvaliteter, er det nødvendig å kontrollere tilkoblingen av tomter og referanseelektroder først. Dersom de…

Disclosures

The authors have nothing to disclose.

Acknowledgements

Forfatterne ønsker å uttrykke sin takknemlighet til Mr. Hong Hu for hans hjelp i å utføre eksperimenter som er rapportert i denne artikkelen. Dette arbeidet ble støttet delvis av National Natural Science Foundation of China (nr 61473207).

Materials

Cerebus EEG Data Acquisition System Blackrock Microsystems 4176-9967
NAO humanoid robot Aldebaran Robotics H25
EEG cap Neuroscan 8732
Ten20 Conductive gel Weaver and company 10-20-8

References

  1. McFarland, D. J., Wolpaw, J. R. Brain-Computer Interface Operation of Robotic and Prosthetic Devices. Computer. 41, 52-56 (2008).
  2. Lebedev, M. A., Nicolelis, M. A. Brain-machine interfaces: Past, present and future. Trends Neruosci. 29 (9), 536-546 (2006).
  3. Wolpaw, J. R., Birbaumer, N., McFarland, D. J., Pfurtscheller, G., Vaughan, T. M. Brain-computer interfaces for communication and control. Clin. Neurophysiol. 113, 767-791 (2002).
  4. Bell, C. J., Shenoy, P., Chalodhorn, R., Rao, R. P. Control of a humanoid robot by a noninvasive brain-computer interface in humans. J. Neural. Eng. 5, 214-220 (2008).
  5. Li, W., Li, M., Zhao, J. Control of humanoid robot via motion-onset visual evoked potentials. Front. Syst. Neurosci. 8, 247 (2014).
  6. Regan, D. Some characteristics of average steady-state and transient responses evoked by modulated light. Electroencephalogr. Clin. Neurophysiol. 20, 238-248 (1966).
  7. Vialatte, F. B., Maurice, M., Dauwels, J., Cichocki, A. Steady-state visually evoked potentials: focus on essential paradigms and future perspectives. Prog. Neurobiol. 90, 418-438 (2010).
  8. Bin, G., Gao, X., Wang, Y., Li, Y., Hong, B., Gao, S. A high-speed BCI based on code modulation VEP. J. Neural. Eng. 8, 025015 (2011).
  9. Sutton, S., Braren, M., Zubin, J., John, E. R. Evoked-potential correlates of stimulus uncertainty. Science. 150, 1187-1188 (1965).
  10. Pfurtscheller, G., Lopes da Silva, H. F. Event-related EEG/MEG synchronization and desynchronization: basic principles. Clin. Neurophysiol. 110, 1842-1857 (1999).
  11. Zhao, J., Meng, Q., Li, W., Li, M., Sun, F., Chen, G. OpenViBE-based brainwave control system for Cerebot. Proc. IEEE International Conference on Robotics and Biomimetics. , 1169-1174 (2013).
  12. Homan, R. W., Herman, J., Purdy, P. Cerebral location of international 10-20 system electrode placement. Electroencephalogr. Clin. Neurophysiol. 66, 376-382 (1987).
  13. Bin, G., Gao, X., Yan, Z., Hong, B., Gao, S. An online multi-channel SSVEP-based brain-computer interface using a canonical correlation analysis method. J. Neural. Eng. 6, 046002 (2009).
  14. Wang, Y., Wang, R., Gao, X., Hong, B., Gao, S. A practical VEP-based brain-computer interface. IEEE Trans. Neural Syst. Rehabil. Eng. 14, 234-239 (2006).
  15. Chae, Y., Jeong, J., Jo, S. Toward brain-actuated humanoid robots: asynchronous direct control using an EEG-based BCI. IEEE T. Robot. 28, 1131-1144 (2012).
  16. Croft, R. J., Barry, R. J. Removal of ocular artifact from the EEG: a review. Neurophysiol. Clin. 30, 5-19 (2000).
  17. Hwang, H. J., Hwan Kim, D., Han, C. H., Im, C. H. A new dual-frequency stimulation method to increase the number of visual stimuli for multi-class SSVEP-based brain-computer interface (BCI). Brain Res. 1515, 66-77 (2013).
  18. Wang, M., Daly, I., Allison, B., Jin, J., Zhang, Y., Chen, L., Wang, X. A new hybrid BCI paradigm based on P300 and SSVEP. J Neurosci Methods. 244, 16-25 (2015).
  19. Allison, B. Z., Jin, J., Zhang, Y., Wang, X. A four-choice hybrid P300 SSVEP BCI for improved accuracy. Brain-Computer Interfaces. 1, 17-26 (2014).
  20. Pan, J. H., Xie, Q., Herman, Y., Wang, F., Di, H., Laureys, S., Yu, R., Li, Y. Detecting awareness in patients with disorders of consciousness using a hybrid brain-computer interface. J. Neural. Eng. 11, 056007 (2014).
  21. Li, J., Ji, H., Cao, L., Zhang, D., Gu, R., Xia, B., Wu, Q. Evaluation and application of a hybrid brain computer interface for real wheelchair parallel control with multi-degree of freedom. Int J Neural Syst. 24, 1450014-14 (2014).
  22. Zhao, J., Meng, Q., Li, W., Li, M., Chen, G. SSVEP-based hierarchical architecture for control of a humanoid robot with mind. Proc. 11th World Congress on Intelligent Control and Automation. , 2401-2406 (2014).
  23. Zhu, D., Bieger, J., Molina, G. G., Aarts, R. M. A survey of stimulation methods used in SSVEP-based BCIs. Comput Intell Neurosci. 2010, 1-12 (2010).
  24. Muller-Putz, G. R., Scherer, R., Brauneis, C., Pfurtscheller, G. Steady-state visual evoked potential (SSVEP)-based communication: impact of harmonic frequency components. J Neural Eng. 2, 123-130 (2005).
check_url/53558?article_type=t

Play Video

Cite This Article
Zhao, J., Li, W., Mao, X., Li, M. SSVEP-based Experimental Procedure for Brain-Robot Interaction with Humanoid Robots. J. Vis. Exp. (105), e53558, doi:10.3791/53558 (2015).

View Video