Summary

P300-basierte Brain-Computer-Schnittstelle Rechtschreiber-Leistungsschätzung mit klassifikatorbasierter Latenzschätzung

Published: September 08, 2023
doi:

Summary

In diesem Artikel wird eine Methode zur Schätzung der Genauigkeit der P300-Rechtschreibprüfung Brain-Computer Interface (BCI) am selben Tag anhand eines kleinen Testdatensatzes vorgestellt.

Abstract

Die Leistungsschätzung ist ein notwendiger Schritt bei der Entwicklung und Validierung von Brain-Computer-Interface (BCI)-Systemen. Leider sind selbst moderne BCI-Systeme langsam, was das Sammeln ausreichender Daten für die Validierung für Endbenutzer und Experimentatoren gleichermaßen zu einer zeitaufwändigen Aufgabe macht. Ohne ausreichende Daten kann die zufällige Variation der Leistung jedoch zu falschen Rückschlüssen darüber führen, wie gut ein BCI für einen bestimmten Benutzer funktioniert. Zum Beispiel arbeiten P300-Rechtschreibmaschinen in der Regel mit etwa 1-5 Zeichen pro Minute. Um die Genauigkeit mit einer Auflösung von 5 % zu schätzen, sind 20 Zeichen (4-20 Minuten) erforderlich. Trotz dieses Zeitaufwands können die Konfidenzgrenzen für die Genauigkeit von 20 Zeichen je nach beobachteter Genauigkeit bis zu ±23 % betragen. Eine zuvor veröffentlichte Methode, Classifier-Based Latency Estimation (CBLE), hat sich als stark korreliert mit der BCI-Genauigkeit erwiesen. Diese Arbeit stellt ein Protokoll für die Verwendung von CBLE vor, um die P300-Rechtschreibgenauigkeit eines Benutzers aus relativ wenigen Zeichen (~3-8) von Typisierungsdaten vorherzusagen. Die resultierenden Konfidenzgrenzen sind enger als bei herkömmlichen Methoden. Die Methode kann somit verwendet werden, um die BCI-Leistung schneller und/oder genauer abzuschätzen.

Introduction

Gehirn-Computer-Schnittstellen (BCIs) sind eine nicht-invasive Technologie, die es Individuen ermöglicht, direkt über Maschinen zu kommunizieren, ohne Rücksicht auf körperliche Einschränkungen durch den Körper. BCI kann als Hilfsmittel verwendet werden, das direkt vom Gehirn bedient wird. BCI verwendet die Gehirnaktivität eines Benutzers, um festzustellen, ob der Benutzer beabsichtigt, eine bestimmte Taste (Buchstabe, Zahl oder Symbol) zu wählen, die auf dem Bildschirmangezeigt wird 1. In einem typischen Computersystem drückt ein Benutzer physisch die vorgesehene Taste auf einer Tastatur. In einem BCI-System mit visueller Anzeige muss sich der Benutzer jedoch auf die gewünschte Taste konzentrieren. Dann wählt BCI den beabsichtigten Schlüssel aus, indem es die gemessenen Gehirnsignaleanalysiert 1. Die Aktivität des Gehirns kann mit verschiedenen Techniken gemessen werden. Obwohl es konkurrierende BCI-Technologien gibt, gilt das Elektroenzephalogramm (EEG) aufgrund seiner nichtinvasiven Natur, seiner hohen zeitlichen Auflösung, Zuverlässigkeit und relativ geringen Kosten als führende Technik2.

Zu den Anwendungen von BCI gehören Kommunikation, Gerätesteuerung und auch Unterhaltung 3,4,5,6. Einer der aktivsten BCI-Anwendungsbereiche ist der P300-Rechtschreiber, der von Farwell und Donchin7 eingeführt wurde. Das P300 ist ein ereigniskorreliertes Potenzial (ERP), das als Reaktion auf die Erkennung eines seltenen, aber relevanten Stimulus erzeugtwird 8. Wenn eine Person ihren Zielreiz erkennt, produziert sie automatisch einen P300. Der P300 ist ein effektives Signal für einen BCI, da er die Erkennung des Zielereignisses durch den Teilnehmer vermittelt, ohne dass eine Reaktion nach außenerforderlich ist 9.

Das P300 BCI hat Forscher aus der Informatik, Elektrotechnik, Psychologie, Human Factors und verschiedenen anderen Disziplinen angezogen. Fortschritte wurden in der Signalverarbeitung, bei Klassifizierungsalgorithmen, Benutzerschnittstellen, Stimulationsschemata und vielen anderen Bereichen erzielt 10,11,12,13,14,15. Unabhängig vom Forschungsbereich ist der rote Faden in all diesen Forschungen jedoch die Notwendigkeit, die Leistung des BCI-Systems zu messen. Diese Aufgabe erfordert in der Regel die Generierung eines Testdatasets. Diese Notwendigkeit ist nicht auf die Forschung beschränkt; Für die spätere klinische Anwendung als unterstützende Technologie werden wahrscheinlich individuelle Validierungssätze für jeden Endbenutzer erforderlich sein, um sicherzustellen, dass das System eine zuverlässige Kommunikation erzeugen kann.

Trotz der umfangreichen Forschung, die auf das P300 BCI angewendet wurde, sind die Systeme immer noch recht langsam. Während die Mehrheit der Leute in der Lage ist, einen P300 BCI16 zu verwenden, produzieren die meisten P300-Rechtschreiber Text in der Größenordnung von 1-5 Zeichen pro Minute. Leider bedeutet diese langsame Geschwindigkeit, dass die Generierung von Testdatensätzen für Teilnehmer, Experimentatoren und eventuelle Endbenutzer viel Zeit und Mühe erfordert. Die Messung der BCI-Systemgenauigkeit ist ein Problem der binomialen Parameterschätzung, und viele Datenmerkmale sind für eine gute Schätzung erforderlich.

Um das Vorhandensein oder Fehlen des P300 ERP abzuschätzen, verwenden die meisten Klassifikatoren ein binäres Klassifizierungsmodell, bei dem jedem Versuch oder jeder Epoche von EEG-Daten ein binäres Label (z. B. “Vorhandensein” oder “Fehlen”) zugewiesen wird. Die allgemeine Gleichung, die von den meisten Klassifikatoren verwendet wird, kann wie folgt ausgedrückt werden:

Equation 1

wobei Equation 2 der Score des Klassifikators genannt wird, der die Wahrscheinlichkeit darstellt, dass die P300-Antwort vorhanden ist, x der aus dem EEG-Signal extrahierte Merkmalsvektor ist und b ein Bias-Term17 ist. Die Funktion f ist eine Entscheidungsfunktion, die die Eingabedaten auf die Ausgabebezeichnung abbildet und aus einem Satz beschrifteter Trainingsdaten unter Verwendung eines überwachten Lernalgorithmus17 gelernt wird. Während des Trainings wird der Klassifikator mit einem beschrifteten Datensatz von EEG-Signalen trainiert, wobei jedes Signal entweder als P300-Antwort gekennzeichnet ist oder nicht. Der Gewichtungsvektor und der Bias-Term sind optimiert, um den Fehler zwischen der vorhergesagten Ausgabe des Klassifikators und der wahren Markierung des EEG-Signals zu minimieren. Sobald der Klassifikator trainiert ist, kann er verwendet werden, um das Vorhandensein der P300-Antwort in neuen EEG-Signalen vorherzusagen.

Verschiedene Klassifikatoren können unterschiedliche Entscheidungsfunktionen verwenden, z. B. lineare Diskriminanzanalyse (LDA), schrittweise lineare Diskriminanzanalyse (SWLDA), kleinste Quadrate (LS), logistische Regression, Support Vector Machines (SVM) oder neuronale Netze (NNs). Der Klassifikator der kleinsten Quadrate ist ein linearer Klassifikator, der die Summe der quadrierten Fehler zwischen den vorhergesagten Klassenbezeichnungen und den echten Klassenbezeichnungen minimiert. Dieser Klassifikator sagt die Klassenbezeichnung eines neuen Testbeispiels mithilfe der folgenden Gleichung voraus:

Equation 3(1)

wobei die Vorzeichenfunktion +1 zurückgibt, wenn das Produkt positiv ist, und -1, wenn es negativ ist, und der Gewichtungsvektor Equation 4 aus dem Feature-Set der Trainingsdaten (x) und Klassenbezeichnungen (y) mit der folgenden Gleichung abgerufen wird:

Equation 5    (2)

In früheren Untersuchungen haben wir argumentiert, dass die klassifikatorbasierte Latenzschätzung (CBLE) zur Schätzung der BCI-Genauigkeit verwendet werden kann 17,18,19. CBLE ist eine Strategie zur Bewertung der Latenzvariation unter Ausnutzung der zeitlichen Empfindlichkeit des Klassifikators18. Während der herkömmliche Ansatz zur P300-Klassifizierung die Verwendung eines einzigen Zeitfensters beinhaltet, das mit jeder Stimuluspräsentation synchronisiert wird, beinhaltet die CBLE-Methode die Erstellung mehrerer zeitversetzter Kopien der Post-Stimulus-Epochen. Dann erkennt es die Zeitverschiebung, die zur maximalen Punktzahl führt, um die Latenz der P300-Antwort17,18 abzuschätzen. Hier stellt diese Arbeit ein Protokoll vor, das die BCI-Leistung aus einem kleinen Datensatz mit CBLE schätzt. Als repräsentative Analyse wird die Anzahl der Zeichen variiert, um Vorhersagen über die Gesamtleistung einer Person zu treffen. Für beide Beispieldatensätze wurden der mittlere quadratische Fehler (RMSE) für vCBLE und die tatsächliche BCI-Genauigkeit berechnet. Die Ergebnisse zeigen, dass der RMSE aus vCBLE-Vorhersagen unter Verwendung der angepassten Daten durchweg niedriger war als die Genauigkeit, die aus 1 bis 7 getesteten Zeichen abgeleitet wurde.

Wir haben eine grafische Benutzeroberfläche (GUI) namens “CBLE Performance Estimation” für die Implementierung der vorgeschlagenen Methodik entwickelt. Der Beispielcode wird ebenfalls bereitgestellt (Supplementary Coding File 1), der auf der MATLAB-Plattform ausgeführt wird. Der Beispielcode führt alle in der GUI angewendeten Schritte aus, aber die Schritte werden bereitgestellt, um den Leser bei der Anpassung an ein neues Dataset zu unterstützen. Dieser Code verwendet einen öffentlich zugänglichen Datensatz “Brain Invaders calibration-less P300-based BCI using dry EEG electrodes Dataset (bi2014a)”, um die vorgeschlagene Methode20 zu bewerten. Die Teilnehmer spielten bis zu drei Spielsitzungen von Brain Invaders, wobei jede Sitzung 9 Levels des Spiels hatte. Die Datenerfassung wurde fortgesetzt, bis alle Stufen abgeschlossen waren oder der Teilnehmer die Kontrolle über das BCI-System verlor. Die Benutzeroberfläche von Brain Invaders enthielt 36 Symbole, die in 12 Gruppen von sechs Außerirdischen blinkten. Nach dem Brain Invaders P300-Paradigma wurde eine Wiederholung durch 12 Blitze erzeugt, einen für jede Gruppe. Von diesen 12 Blitzen enthielten zwei Blitze das Zielsymbol (bekannt als Zielblitze), während die restlichen 10 Blitze das Zielsymbol nicht enthielten (bekannt als Nicht-Zielblitze). Weitere Informationen zu diesem Paradigma finden Sie in der Originalreferenz20.

Der CBLE-Ansatz wurde auch auf einem Datensatz aus Michigan implementiert, der Daten von 40 Teilnehmern enthielt 18,19. Hier mussten die Daten von acht Teilnehmern verworfen werden, weil ihre Aufgaben unvollständig waren. Die gesamte Studie erforderte drei Besuche von jedem Teilnehmer. Am ersten Tag tippte jeder Teilnehmer einen Trainingssatz mit 19 Zeichen, gefolgt von drei Testsätzen mit 23 Zeichen an den Tagen 1, 2 und 3. In diesem Beispiel enthielt die Tastatur 36 Zeichen, die in sechs Zeilen und sechs Spalten gruppiert waren. Jede Zeile oder Spalte wurde 31,25 Millisekunden lang mit einem Intervall von 125 Millisekunden zwischen den Blitzen geblitzt. Zwischen den Zeichen wurde eine Pause von 3,5 Sekunden vorgesehen.

Abbildung 1 zeigt das Blockdiagramm der vorgeschlagenen Methode. Die detaillierte Vorgehensweise ist im Abschnitt Protokoll beschrieben.

Protocol

Die GUI “CBLE Performance Estimation” wurde auf zwei Datensätze angewendet: den Datensatz “BrainInvaders” und den Datensatz Michigan. Für den Datensatz “BrainInvaders” wurde die Datenerhebung von der Ethikkommission der Universität Grenoble Alpesgenehmigt 20. Michigan-Daten wurden mit Genehmigung des University of Michigan Institutional Review Board gesammelt19. Die Daten wurden gemäß dem Ausnahmeprotokoll 7516 der Kansas State University analysiert. Wenn Sie neue Date…

Representative Results

Das vorgeschlagene Protokoll wurde an zwei verschiedenen Datensätzen getestet: “BrainInvaders” und dem Michigan-Datensatz. Diese Datensätze werden bereits im Abschnitt Einführung kurz vorgestellt. Die für diese beiden Datensätze verwendeten Parameter sind in Tabelle 1 aufgeführt. Die Abbildungen 2-4 zeigen die Ergebnisse, die mit dem “BrainInvaders”-Datensatz erzielt wurden, während die Abbildungen <stron…

Discussion

In diesem Artikel wurde eine Methode zur Schätzung der BCI-Genauigkeit anhand eines kleinen P300-Datensatzes beschrieben. Hier wurde das aktuelle Protokoll auf der Grundlage des Datensatzes “bi2014a” entwickelt, obwohl die Wirksamkeit des Protokolls auf zwei verschiedenen Datensätzen bestätigt wurde. Um diese Technik erfolgreich zu implementieren, ist es entscheidend, bestimmte Variablen festzulegen, wie z. B. das Epochenfenster für die Originaldaten, das Zeitfenster für die Zeitverschiebung, das Downsampling-Verhä…

Disclosures

The authors have nothing to disclose.

Acknowledgements

Die Daten, die für repräsentative Ergebnisse verwendet wurden, wurden aus der Arbeit gesammelt, die vom National Institute of Child Health and Human Development (NICHD), den National Institutes of Health (NIH) unter Grant R21HD054697 und dem National Institute on Disability and Rehabilitation Research (NIDRR) im Bildungsministerium unter Grant H133G090005 und Award Number H133P090008 unterstützt wurde. Der Rest der Arbeit wurde teilweise von der National Science Foundation (NSF) unter dem Preis #1910526 finanziert. Die Ergebnisse und Meinungen in dieser Arbeit spiegeln nicht unbedingt die Positionen von NICHD, NIH, NIDRR oder NSF wider.

Materials

MATLAB 2021 Matlab N/A Any recent MATLAB version can be used.

References

  1. Rezeika, A., Benda, M., Stawicki, P., Gembler, F., Saboor, A., Volosyak, I. Brain-Computer Interface spellers: A review. Brain Science. 8 (4), 57 (2018).
  2. Gannouni, S., Aledaily, A., Belwafi, K., Aboalsamh, H. Emotion detection using electroencephalography signals and a zero-time windowing-based epoch estimation and relevant electrode identification. Scientific Reports. 11 (1), 7071 (2021).
  3. Daly, J. J., Wolpaw, J. R. Brain-computer interfaces in neurological rehabilitation. Lancet Neurology. 7 (11), 1032-1043 (2008).
  4. Birbaumer, N. Breaking the silence: brain-computer interfaces (BCI) for communication and motor control. Psychophysiology. 43 (6), 517-532 (2006).
  5. Riccio, A., Simione, L., Schettini, F., Pizzimenti, A., Inghilleri, M., Belardinelli, M. O. Attention and P300-based BCI performance in people with amyotrophic lateral sclerosis. Frontiers in Human Neuroscience. 7, 732 (2013).
  6. Finke, A., Lenhardt, A., Ritter, H. The MindGame: a P300-based brain-computer interface game. Neural Network. 22 (9), 1329-1333 (2009).
  7. Farwell, L. A., Donchin, E. Talking off the top of your head: toward a mental prosthesis utilizing event-related brain potentials. Electroencephalogr. Clinical Neurophysiology. 70 (6), 510-523 (1988).
  8. Li, Q., Lu, Z., Gao, N., Yang, J. Optimizing the performance of the visual P300-speller through active mental tasks based on color distinction and modulation of task difficulty. Frontiers in Human Neuroscience. 13, 130 (2019).
  9. McFarland, D. J., Sarnacki, W. A., Townsend, G., Vaughan, T., Wolpaw, J. R. The P300-based brain-computer interface (BCI): effects of stimulus rate. Clinical Neurophysiology. 122 (4), 731-737 (2011).
  10. Krusienski, D. J., Sellers, E. W., Cabestaing, F., Bayoudh, S., McFarland, D. J., Vaughan, T. M. A comparison of classification techniques for the P300 Speller. Journal of Neural Engineering. 3 (4), 299-305 (2006).
  11. Sellers, E. W., Donchin, E. A P300-based brain-computer interface: initial tests by ALS patients. Clinical Neurophysiology. 117 (3), 538-548 (2006).
  12. Donchin, E., Spencer, K. M., Wijesinghe, R. The mental prosthesis: assessing the speed of a P300-based brain-computer interface. IEEE Transactions on Rehabilitation Engineering. 8 (2), 174-179 (2000).
  13. Höhne, J., Schreuder, M., Blankertz, B., Tangermann, M. A novel 9-class auditory ERP paradigm driving a predictive text entry system. Frontiers in Neuroscience. 5, 99 (2011).
  14. Acqualagna, L., Treder, M. S., Blankertz, B. Chroma Speller: Isotropic visual stimuli for truly gaze-independent spelling. , (2013).
  15. Townsend, G., LaPallo, B. K., Boulay, C. B., Krusienski, D. J., Frye, G. E., Hauser, C. K. A novel P300-based brain-computer interface stimulus presentation paradigm: moving beyond rows and columns. Clinical Neurophysiology. 121 (7), 1109-1120 (2010).
  16. Guger, C., Daban, S., Sellers, E., Holzner, C., Krausz, G., Carabalona, R. How many people are able to control a P300-based brain-computer interface (BCI). Neuroscience Letters. 462 (1), 94-98 (2009).
  17. Mowla, M. R., Gonzalez-Morales, J. D., Rico-Martinez, J., Ulichnie, D. A., Thompson, D. E. A comparison of classification techniques to predict Brain-computer interfaces accuracy using classifier-based latency estimation. Brain Science. 10 (10), 734 (2020).
  18. Thompson, D. E., Warschausky, S., Huggins, J. E. Classifier-based latency estimation: a novel way to estimate and predict BCI accuracy. Journal of Neural Engineering. 10 (1), 016006 (2012).
  19. Thompson, D. E., Gruis, K. L., Huggins, J. E. A plug-and-play brain-computer interface to operate commercial assistive technology. Disability and Rehabilitation: Assistive Technology. 9 (2), 144-150 (2014).
  20. Korczowski, L., Ostaschenko, E., Andreev, A., Cattan, G., Coelho Rodrigues, P. L., Gautheret, V., Congedo, M. Brain Invaders calibration-less P300-based BCI using dry EEG electrodes Dataset (bi2014a) [Data set]. Zenodo. , (2019).
  21. Krusienski, D. J., Sellers, E. W., Cabestaing, F., Bayoudh, S., McFarland, D. J., Vaughan, T. M., Wolpaw, J. R. A comparison of classification techniques for the P300 Speller. Journal of Neural Engineering. 3 (4), 299-305 (2006).
check_url/64959?article_type=t

Play Video

Cite This Article
Khan, N. N., Sweet, T., Harvey, C. A., Warschausky, S., Huggins, J. E., Thompson, D. E. P300-Based Brain-Computer Interface Speller Performance Estimation with Classifier-Based Latency Estimation. J. Vis. Exp. (199), e64959, doi:10.3791/64959 (2023).

View Video