Einschätzung des Vertrauens in systematische Übersichten
Ein Blick auf die Vertrauenswürdigkeit von systematischen Reviews in der Forschung.
Jack Wilkinson, Calvin Heal, Georgios A Antoniou, Ella Flemyng, Love Ahnström, Alessandra Alteri, Alison Avenell, Timothy Hugh Barker, David N Borg, Nicholas JL Brown, Rob Buhmann, Jose A Calvache, Rickard Carlsson, Lesley-Anne Carter, Aidan G Cashin, Sarah Cotterill, Kenneth Färnqvist, Michael C Ferraro, Steph Grohmann, Lyle C Gurrin, Jill A Hayden, Kylie E Hunter, Natalie Hyltse, Lukas Jung, Ashma Krishan, Silvy Laporte, Toby J Lasserson, David RT Laursen, Sarah Lensen, Wentao Li, Tianjing Li, Jianping Liu, Clara Locher, Zewen Lu, Andreas Lundh, Antonia Marsden, Gideon Meyerowitz-Katz, Ben W Mol, Zachary Munn, Florian Naudet, David Nunan, Neil E O’Connell, Natasha Olsson, Lisa Parker, Eleftheria Patetsini, Barbara Redman, Sarah Rhodes, Rachel Richardson, Martin Ringsten, Ewelina Rogozińska, Anna Lene Seidler, Kyle Sheldrick, Katie Stocking, Emma Sydenham, Hugh Thomas, Sofia Tsokani, Constant Vinatier, Colby J Vorland, Rui Wang, Bassel H Al Wattar, Florencia Weber, Stephanie Weibel, Madelon van Wely, Chang Xu, Lisa Bero, Jamie J Kirkham
― 6 min Lesedauer
Inhaltsverzeichnis
- Die Bedeutung der Validität
- Vertrauen nicht mehr Standard
- Was sind Problematische Studien?
- Entwicklung eines neuen Tools: INSPECT-SR
- Die Forschungsstudie
- Wer hat die Überprüfung gemacht?
- Auswahl der Übersichten und Studien
- Datenextraktion und Vertrauenswürdigkeitsbewertung
- Wie lief die Überprüfung?
- Ergebnisse des Überprüfungsprozesses
- Machbarkeit der Checks
- Identifizierung problematischer Studien
- Die Notwendigkeit zur Vorsicht
- Ausblick: Entwicklung von INSPECT-SR
- Fazit
- Die Zukunft der Vertrauenswürdigkeit in der Forschung
- Originalquelle
- Referenz Links
Systematische Übersichten sind wie Detektivarbeit für Forscher. Sie sammeln alle Studien zu einem bestimmten Thema, um herauszufinden, was die Beweise sagen. Man kann sich das vorstellen wie das Vergleichen von Notizen nach einem grossen Gruppenprojekt, um zu sehen, ob alle auf der gleichen Seite sind. In diesen Übersichten ziehen Forscher vorzugsweise randomisierte kontrollierte Studien (RCTs heran), bei denen die Teilnehmer zufällig unterschiedlichen Behandlungen zugewiesen werden, um Fairness zu gewährleisten.
Die Bedeutung der Validität
Damit eine systematische Übersicht vertrauenswürdig ist, muss sie valide RCTs enthalten. Validität bedeutet, dass die Studie genau das misst, was sie zu messen vorgibt. Stell dir vor, du hast eine fancy Waage gekauft, um dich zu wiegen, aber sie ist kaputt und zeigt dir 100 Pfund weniger an, als du wirklich wiegst. Nicht valide! Forscher verwenden Werkzeuge namens Risiko von Bias-Tools, um zu prüfen, ob die Studien, die sie einbeziehen, ehrlich und zuverlässig sind.
Vertrauen nicht mehr Standard
Aber die Dinge haben sich geändert. Jüngste Untersuchungen zu RCTs haben Augenbrauen hochgezogen. Einige Studien, die es in Fachzeitschriften geschafft haben, erzählen vielleicht nicht die ganze Geschichte. Es ist wie zu entdecken, dass dein Gruppenprojektpartner heimlich seinen Teil von einer zufälligen Website kopiert hat, anstatt selbst zu arbeiten. Wenn das passiert, können gefälschte Studien die Patientenversorgung leiten, und das ist ein Problem.
Problematische Studien?
Was sindCochrane, eine bekannte Organisation in der Forschungswelt, definiert "problematische Studien" als solche mit grossen Zweifeln an ihrer Vertrauenswürdigkeit. Das könnte daran liegen, dass jemand geschummelt hat oder einfach während der Studie gravierende Fehler gemacht hat. Sie haben entschieden, dass Studien mit ernsthaften Problemen nicht in systematische Übersichten aufgenommen werden sollten. Das führt zur grossen Frage: wie finden wir heraus, ob eine Studie vertrauenswürdig oder problematisch ist?
Entwicklung eines neuen Tools: INSPECT-SR
Um dieses Problem anzugehen, arbeiten Forscher an einem neuen Tool namens INSPECT-SR (INveStigating ProblEmatic Clinical Trials in Systematic Reviews). Das Ziel ist, eine Checkliste zu erstellen, die den Gutachtern hilft zu bestimmen, ob RCTs zuverlässig sind. Sie haben eine lange Liste möglicher Checks erstellt, aber es wird einige Zeit dauern, diese zu testen.
Die Forschungsstudie
In einem Projekt zur Entwicklung dieses Tools haben Forscher 72 verschiedene Checks auf RCTs aus 50 Cochrane-Übersichten angewendet. Sie wollten sehen, wie praktikabel diese Checks sind und welchen Einfluss sie auf die Ergebnisse der Übersichten haben. Dieser Aspekt war entscheidend, denn wenn die Checks zu kompliziert oder zeitaufwendig sind, werden die Gutachter sie nicht verwenden wollen.
Wer hat die Überprüfung gemacht?
Die INSPECT-SR-Arbeitsgruppe bestand aus einer Mischung aus Forschungsexperten. Sie luden mehrere Gutachter ein, um die Studien zu bewerten. Diese Gutachter mussten keine speziellen Qualifikationen in Forschungsintegrität haben, weil es darum ging zu sehen, wie alltägliche Gutachter mit den Checks umgehen würden.
Auswahl der Übersichten und Studien
Um die Cochrane-Übersichten auszuwählen, suchten die Forscher nach kürzlich veröffentlichten, die bestimmten Kriterien entsprachen. Sie vermieden Übersichten, bei denen die Prüfer eine Verbindung hatten, um Fairness zu gewährleisten. Sie wollten sich auch auf Übersichten konzentrieren, die RCTs enthielten, die für die Analyse geeignet waren.
Datenextraktion und Vertrauenswürdigkeitsbewertung
Die Gutachter erhielten ein Formular, das sie während der Untersuchung der Studien ausfüllen sollten. Sie schauten sich an, ob die Ergebnisse klar waren und ob die Autoren der Studien vertrauenswürdig waren. Sie verwendeten verfügbare Software, die bei einigen Checks helfen konnte, aber es bestand keine Pflicht, ein bestimmtes Programm zu verwenden.
Wie lief die Überprüfung?
Während dieses Prozesses schauten die Prüfer jede RCT genau an und vergaben Punkte basierend auf den Checks. Sie mussten Dinge bewerten wie, ob die Daten der Studie öffentlich geteilt wurden oder ob alle Autoren gleichmässig zum Projekt beigetragen haben. Nach der Bewertung hielten sie fest, ob sie Bedenken hinsichtlich der Vertrauenswürdigkeit jeder Studie hatten.
Ergebnisse des Überprüfungsprozesses
Nachdem sie 95 RCTs aus den 50 Cochrane-Übersichten angesehen hatten, stellten die Prüfer fest, dass eine erhebliche Anzahl von Studien einige Bedenken aufwarf. Während die meisten Studien keine grösseren Probleme hatten, hatten etwa 25 % einige Bedenken, und rund 6 % warfen ernsthafte Warnsignale auf.
Machbarkeit der Checks
Im Verlauf der Bewertung wurden einige Checks als unpraktisch erachtet. Zum Beispiel war es schwierig zu verfolgen, ob ein Forscher Arbeiten von anderen kopiert hatte oder ob er seine Ergebnisse korrekt berichtet hatte. Es erforderte mehr Aufwand als es wert war, was zeigte, dass ein Gleichgewicht zwischen Gründlichkeit und Praktikabilität gefunden werden muss.
Identifizierung problematischer Studien
Die Checks sollten problematische Studien hervorheben, die oft in Bereichen wie der vorherigen Registrierung von Studien (der Prozess, die Öffentlichkeit darüber zu informieren, dass die Studie stattfindet) und der Datenfreigabe schwächelten. Viele RCTs waren nicht im Voraus registriert, was Bedenken hinsichtlich ihrer Authentizität aufwarf.
Die Notwendigkeit zur Vorsicht
Während die Ergebnisse alarmierend klingen mögen, ist es wichtig, sich daran zu erinnern, dass das Studiendesign Einschränkungen hatte. Die Gutachter schauten nur auf Meta-Analysen mit einer kleinen Anzahl von Studien, was die Anzahl der Übersichten erhöhen könnte, die nach Anwendung der Checks keine brauchbaren Studien hatten.
Ausblick: Entwicklung von INSPECT-SR
Die Ergebnisse dieser Studie werden dazu beitragen, das endgültige INSPECT-SR-Tool zu gestalten. Die Forscher sind bestrebt, ein praktisches Tool mit nützlichen Checks zu erstellen, das systematische Gutachter nutzen können, ohne sich überfordert zu fühlen.
Fazit
Insgesamt zeigt die Studie, dass die Überprüfung der Vertrauenswürdigkeit von RCTs entscheidend ist. Sie legt nahe, dass problematische Studien nicht so selten sind, wie man denken könnte, und dass die aktuellen Methoden möglicherweise nicht alle Probleme erfassen. In der Informationszeitalter ist es genauso wichtig, unsere Forschung zuverlässig zu halten, wie sicherzustellen, dass unsere Einkaufslisten keine Pizza-Rollen enthalten, wenn wir Diät machen. Der Weg nach vorne besteht darin, die Checks zu verfeinern, Feedback zu erhalten und ein Tool zu schaffen, das im Alltag der Forschung praktisch verwendet werden kann.
Die Zukunft der Vertrauenswürdigkeit in der Forschung
Dies markiert den Beginn einer neuen Ära, in der die Ehrlichkeit und Zuverlässigkeit von Studien genauer unter die Lupe genommen wird. Während Forscher weiterhin daran arbeiten, systematische Übersichten zu verbessern, ist es wie das Polieren eines glänzenden Apfels – es kann etwas Mühe kosten, aber es führt zu etwas, dem jeder vertrauen kann. Und wer möchte nicht in einen vertrauenswürdigen Apfel beissen?
Lasst uns gespannt bleiben, was als Nächstes in der Welt der Forschung kommt und wie diese neuen Tools helfen werden, die Wissenschaftsgemeinschaft zur Verantwortung zu ziehen. Schliesslich wollen wir bei Gesundheit und Medizin alle sicherstellen, dass wir das echte Geschäft bekommen!
Originalquelle
Titel: Assessing the feasibility and impact of clinical trial trustworthiness checks via an application to Cochrane Reviews: Stage 2 of the INSPECT-SR project
Zusammenfassung: BackgroundThe aim of the INSPECT-SR project is to develop a tool to identify problematic RCTs in systematic reviews. In Stage 1 of the project, a list of potential trustworthiness checks was created. The checks on this list must be evaluated to determine which should be included in the INSPECT-SR tool. MethodsWe attempted to apply 72 trustworthiness checks to RCTs in 50 Cochrane Reviews. For each, we recorded whether the check was passed, failed or possibly failed, or whether it was not feasible to complete the check. Following application of the checks, we recorded whether we had concerns about the authenticity of each RCT. We repeated each meta-analysis after removing RCTs flagged by each check, and again after removing RCTs where we had concerns about authenticity, to estimate the impact of trustworthiness assessment. Trustworthiness assessments were compared to Risk of Bias and GRADE assessments in the reviews. Results95 RCTs were assessed. Following application of the checks, assessors had some or serious concerns about the authenticity of 25% and 6% of the RCTs, respectively. Removing RCTs with either some or serious concerns resulted in 22% of meta-analyses having no remaining RCTs. However, many checks proved difficult to understand or implement, which may have led to unwarranted scepticism in some instances. Furthermore, we restricted assessment to meta-analyses with no more than 5 RCTs, which will distort the impact on results. No relationship was identified between trustworthiness assessment and Risk of Bias or GRADE. ConclusionsThis study supports the case for routine trustworthiness assessment in systematic reviews, as problematic studies do not appear to be flagged by Risk of Bias assessment. The study produced evidence on the feasibility and impact of trustworthiness checks. These results will be used, in conjunction with those from a subsequent Delphi process, to determine which checks should be included in the INSPECT-SR tool. Plain language summarySystematic reviews collate evidence from randomised controlled trials (RCTs) to find out whether health interventions are safe and effective. However, it is now recognised that the findings of some RCTs are not genuine, and some of these studies appear to have been fabricated. Various checks for these "problematic" RCTs have been proposed, but it is necessary to evaluate these checks to find out which are useful and which are feasible. We applied a comprehensive list of "trustworthiness checks" to 95 RCTs in 50 systematic reviews to learn more about them, and to see how often performing the checks would lead us to classify RCTs as being potentially inauthentic. We found that applying the checks led to concerns about the authenticity of around 1 in 3 RCTs. However, we found that many of the checks were difficult to perform and could have been misinterpreted. This might have led us to be overly sceptical in some cases. The findings from this study will be used, alongside other evidence, to decide which of these checks should be performed routinely to try to identify problematic RCTs, to stop them from being mistaken for genuine studies and potentially being used to inform healthcare decisions. What is newO_LIAn extensive list of potential checks for assessing study trustworthiness was assessed via an application to 95 randomised controlled trials (RCTs) in 50 Cochrane Reviews. C_LIO_LIFollowing application of the checks, assessors had concerns about the authenticity of 32% of the RCTs. C_LIO_LIIf these RCTs were excluded, 22% of meta-analyses would have no remaining RCTs. C_LIO_LIHowever, the study showed that some checks were frequently infeasible, and others could be easily misunderstood or misinterpreted. C_LIO_LIThe study restricted assessment to meta-analyses including five or fewer RCTs, which might distort the impact of applying the checks. C_LI
Autoren: Jack Wilkinson, Calvin Heal, Georgios A Antoniou, Ella Flemyng, Love Ahnström, Alessandra Alteri, Alison Avenell, Timothy Hugh Barker, David N Borg, Nicholas JL Brown, Rob Buhmann, Jose A Calvache, Rickard Carlsson, Lesley-Anne Carter, Aidan G Cashin, Sarah Cotterill, Kenneth Färnqvist, Michael C Ferraro, Steph Grohmann, Lyle C Gurrin, Jill A Hayden, Kylie E Hunter, Natalie Hyltse, Lukas Jung, Ashma Krishan, Silvy Laporte, Toby J Lasserson, David RT Laursen, Sarah Lensen, Wentao Li, Tianjing Li, Jianping Liu, Clara Locher, Zewen Lu, Andreas Lundh, Antonia Marsden, Gideon Meyerowitz-Katz, Ben W Mol, Zachary Munn, Florian Naudet, David Nunan, Neil E O’Connell, Natasha Olsson, Lisa Parker, Eleftheria Patetsini, Barbara Redman, Sarah Rhodes, Rachel Richardson, Martin Ringsten, Ewelina Rogozińska, Anna Lene Seidler, Kyle Sheldrick, Katie Stocking, Emma Sydenham, Hugh Thomas, Sofia Tsokani, Constant Vinatier, Colby J Vorland, Rui Wang, Bassel H Al Wattar, Florencia Weber, Stephanie Weibel, Madelon van Wely, Chang Xu, Lisa Bero, Jamie J Kirkham
Letzte Aktualisierung: 2024-12-20 00:00:00
Sprache: English
Quell-URL: https://www.medrxiv.org/content/10.1101/2024.11.25.24316905
Quell-PDF: https://www.medrxiv.org/content/10.1101/2024.11.25.24316905.full.pdf
Lizenz: https://creativecommons.org/licenses/by/4.0/
Änderungen: Diese Zusammenfassung wurde mit Unterstützung von AI erstellt und kann Ungenauigkeiten enthalten. Genaue Informationen entnehmen Sie bitte den hier verlinkten Originaldokumenten.
Vielen Dank an medrxiv für die Nutzung seiner Open-Access-Interoperabilität.