Purpose The purpose of this paper is to defend the notion of “trust in technology” against the philosophical view that this concept is misled and unsuitable for ethical evaluation. In contrast, it is shown that “trustworthy technology” addresses a critical societal need in the digital age as it is inclusive of IT-security risks not only from a technical but also from a public layperson perspective. Design/methodology/approach From an interdisciplinary perspective between philosophy andIT-security, the authors discuss a potential instantiation of a (...) “trustworthy information and communication technology ”: a solution for privacy respecting video surveillance. Here, strong data protection measures address grave concerns such as the threat of bulk biometric tracking of citizens. In a logical argument, however, the authors show that this technical notion of “trust” needs to be complemented by interlocking trust relations to justify public trust. Findings Based on this argument, the authors demonstrate that the philosophical position considering “trust in technology” to denote either “reliability” or “interpersonal trust” is too limited as it fails to address critical aspects of IT-security. In a broader, socio-technical sense, however, it is shown that several distinct accounts of trust – technical, interpersonal and institutional – should meaningfully interlock, to address concerns with ICTs. Originality/value This conceptual study demonstrates the potential of “trust in technology” for a more comprehensive evaluation of ICTs within the context of operation. Furthermore, it adds to the discussion of trust in IT-security by highlighting the layperson’s challenge of judging a technology’s trustworthiness. Vice versa, it contributes to Ethics of Technology by highlighting crucial IT-security needs. (shrink)

Die gesellschaftspolitischen Konflikte um die Verschärfung von Fluggastkontrollen belegen, dass es bei Entscheidungen darüber, wie und mit welchen Techniken derartige Kontrollprozesse zu organisieren sind, einen Bedarf an ethischer Expertise gibt. Getroffen werden müssen solche Entscheidungen vor einem komplexen Horizont von Wertvorstellungen, der sich nicht auf den Gegensatz ‚entweder Sicherheit oder Freiheit‘ reduzieren lässt. Entsprechend muss eine informierte Entscheidungsfindung berücksichtigen, welche impliziten Wertvorstellungen uns bei der Forderung nach mehr Sicherheit durch Fluggastkontrollen leiten und welche Wertungskonflikte verschiedene Kontrolltechniken jeweils konkret implizieren. Über (...) eine hermeneutische Lesart von John Deweys Moralpragmatismus werden in dieser Arbeit jene Wertvorstellungen rekonstruiert, die uns bei der Forderung nach Sicherheit leiten, wie auch jene, die dabei auf dem Spiel stehen. Auf dieser Basis präsentiert die Arbeit eine Methode zur operationalisierten Technikbewertung, über die verschiedene Kontrollprozesse verglichen sowie Handlungsempfehlungen generiert werden können. (shrink)

In “Risk Based Passenger Screening in Aviation Security: Implications and Variants of a New Paradigm”, Sebastian Weydner-Volkmann describes the current paradigm shift from ‘traditional’ forms of screening to ‘risk based passenger screening’ (RBS) in aviation security. This paradigm shift is put in the context of the wider historical development of risk management approaches. Through a discussion of Michel Foucault, Herfried Münkler and Ulrich Beck, Weydner-Volkmann analyses the shortcomings of such approaches in public security policies, which become especially evident in the (...) aviation security context. As he shows, the turn towards methods of RBS can be seen as an attempt to address a trade-off ‘trilemma’ between the effective provision of security, the implied costs for industry and passengers, and the ethical, legal and societal implications of the screening procedures. In order to analyse foreseeable outcomes of embracing RBS, he differentiates three prototypical variants of the new paradigm on the basis of their main referent and rationale. For each variant, he then subsequently assesses the implications for the ‘trilemma’, after having unveiled the criteria of analysis that will necessarily have to be followed within a serious appraisal of RBS methods. (shrink)

This article explores what John Dewey’s political philosophy can offer in regard to the current crisis in digital democracy. It focuses on two digital mechanisms, the “filter bubble” and the “echo chamber”. While there is a prominent, Dewey-inspired debate on “digital publics” in the literature, a reconstruction of the Deweyan concepts of the public and of shared experience shows that it does not adequately reflect the aspect of situated and embodied experience. Based on this, it is shown that digital media (...) offerings must also be rooted in local contexts of experience in order to answer the challenge of those two problematic mechanisms. (shrink)

This article explores the potential for “trust in technology” to make a productive conceptual contribution to the ethical evaluation of technology, complementing the concepts of “acceptance” and “acceptability” already established in technology assessment. It shows that for digital technologies in particular, “trust” can better address aspects of security against attacks as it allows to integrate concepts of IT security. Furthermore, “trustworthy technology” allows for a better inclusion of lay perspectives, since rationally justified trust in the sense of risk expectations can (...) be mediated interpersonally by experts. Especially for the evaluation of digital technologies, “trust in technology” can thus bridge a conceptual gap between acceptance and acceptability. (shrink)

Der Artikel beschreibt, welches Angebot über einen moralpragmatischen Ansatz in der Technikfolgenabschätzung (TA) konkret gemacht werden kann. Ethisch argumentierende TA, so die These, lässt sich mit John Dewey als eine Kartografie situativer Wertungskonflikte begreifen. Die entstehenden „moralischen Landkarten“ zu konkreten technischen Entscheidungssituationen zielen darauf ab, den Bedarf an wissenschaftsgestützter, möglichst neutraler Beratung für den öffentlich-politischen Prozess zu ermitteln. Pragmatisch kann „Neutralität“ allerdings nicht als normative Abstinenz verstanden werden. Vielmehr soll der Ausgang von einer Rekonstruktion der normativen Konflikte genommen werden, wobei (...) die Wertvorstellungen, die in den Entscheidungssituationen technischen Handelns jeweils relevant sind, bewusst aus unterschiedlichen Perspektiven erschlossen werden. (shrink)

Video surveillance is an omnipresent phenomenon in today’s metropolitan life. Mainly intended to solve crimes, to prevent them by realtime-monitoring or simply as a deterrent, video surveillance has also become interesting in economical contexts; e.g. to create customer profiles and analyse patterns of their shopping behaviour. The extensive use of video surveillance is challenged by legal claims and societal norms like not putting everybody under generalised suspicion or not recording people without their consent. In this work we propose a technological (...) solution to balance the positive and negative effects of video surveillance. With automatic image recognition algorithms on the rise, we suggest to use that technology to not just automatically identify people but blacken their images. This blackening is done with a cryptographic procedure allowing to revoke it with an appropriate key. Many of the legal and ethical objections to video surveillance could thereby be accommodated. In commercial scenarios, the operator of a customer profiling program could offer enticements for voluntarily renouncing one’s anonymity. Customers could e.g. wear a small infrared LED to signal their agreement to being tracked. After explaining the implementation details, this work outlines a multidisciplinary discussion incorporating an economic, ethical and legal viewpoint. (shrink)

The book introduced in this text is based on the premise that the trade-off between privacy and security is both unsound and conceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relationship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to private life and data protection. Thereby, they show that surveillance and control neither necessarily (...) attain security, nor always pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they appreciate how surveillance and control, mediated through technology, express and sustain specific power relationships. The book thus offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control. (shrink)

This book is based on the premise that the trade-off between privacy and security is both unsound and con-ceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relati-onship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to pri-vate life and data protection. Thereby, they show that surveillance and control neither necessarily attain security, nor always (...) pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they argue that surveillance and control, mediated through technolo-gy, express and sustain specific power relationships. The book offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control. (shrink)

This book is based on the premise that the trade-off between privacy and security is both unsound and conceals important aspects of surveillance and control. Accordingly, the authors analyse the symbiotic relationship between liberty and security, and the emptiness of both concepts when considered in isolation. They explore and contextualise different notions of risk, surveillance practices and the value of the rights to private life and data protection. Thereby, they show that surveillance and control neither necessarily attain security, nor always (...) pose a threat to privacy and, conversely, that protecting privacy does not necessarily hamper security provision. Moreover, they appreciate how surveillance and control, mediated through technology, express and sustain specific power relationships. The book thus offers a kaleidoscope of perspectives, ranging from critical studies to international relations, law, philosophy and sociology, to rethink surveillance and control. (shrink)

Der Beitrag geht davon aus, dass es die immer stärkere Ausweitung von Maßnahmen zur Gewährleistung öffentlicher Sicherheit durch den Staat notwendig macht, sich innerhalb der philosophischen Ethik dezidiert mit dem Feld der öffentlichen Sicherheit zu befassen. Von der Zielvorstellung her, wissenschaftliche Politikberatung leisten und gesellschaftliche Debatten strukturierend unterstützen zu können, entwickelt Volkmann dabei in seinem Aufsatz eine Reihe von bereichsbezogenen sowie anwendungsbezogenen Anforderungen, die eine solche angewandte Ethik für öffentliche Sicherheit inhaltlich und methodisch einlösen können muss.

Anhand der Mechanismen „Filterblase“ und „ Echokammer“ in digitalen Medien beleuchtet der Artikel, inwiefern Deweys funktionaler Öffentlichkeitsbegriff für die aktuelle Demokratiekrise mögliche Lösungsperspektiven erschließen lässt. Eine Rekonstruktion von Deweys Begriffen der Öffentlichkeit und der geteilten Erfahrung legt offen, dass der Aspekt der situativ-leiblich eingebundenen Erfahrung in der Forschungsdebatte zu digitalen Öffentlichkeiten nicht adäquat berücksichtigt wird. Darauf aufbauend lässt sich im Widerspruch zu einigen Debatten-Beiträgen zeigen, dass eine stärkere Rückbindung an lokale Lebenskontexte eine Voraussetzung dafür ist, diesen problematischen Mechanismen digitalisierter Medien (...) zu begegnen. (shrink)

Videoüberwachung ist heute allgegenwärtig. Sie dient dazu, Delikte im Nachhinein aufzuklären, zur Echtzeit-Überwachung oder zur Abschreckung. Darüber hinaus gibt es aber auch wirtschaftliche Interessen für eine Videoüberwachung und automatische Erfassung von Personen – z.B. zur Erstellung von Kundenprofilen und somit zur Analyse von Kaufverhalten. Dem gegenüber stehen Rechtsanspruche sowie ethische und gesellschaftliche Grundnormen, etwa dass Menschen nicht unter Generalverdacht gestellt oder ohne Zustimmung aufgezeichnet werden dürfen. In dieser Arbeit wird ein technischer Lösungsansatz behandelt, der eine flexible Handhabung der Videoüberwachung erlaubt. (...) Es werden in diesem Zusammenhang neben der technischen Umsetzung auch ökonomische, ethische und juristische Fragen betrachtet. Der Lösungsansatz besteht darin, Personen auf Videoaufnahmen durch ein kryptographisches Verfahren unkenntlich zu machen, noch bevor die Aufnahmen die Kamera-Elektronik verlassen. Nur mittels eines geheimen kryptographischen Schlüssels können einzelne Zeit- und Bildbereiche einer Aufnahme wieder deanonymisiert werden, wodurch rechtlichen wie ethischen Bedenken Rechnung getragen werden kann. In kommerziellen Szenarien erlaubt es diese digitale Tarnkappe, dass Kunden z.B. im Rahmen eines Prämien-Programms freiwillig auf Anonymisierung verzichten. Während in der Literatur der Informatik bereits seit längerem Technologien für solche System beschrieben werden, werden in dieser Arbeit Wege gezeigt, wie dessen Einbettung in die Gesellschaft wirklich realisiert werden könnte. (shrink)

Infolge der tiefgreifenden Durchdringung unserer Lebenswelt mit digitalen Systemen hat sich die gesamtgesellschaftliche Anforderung formiert, diese Systeme gegen immer neue Formen von Angriffen absichern zu können. In diesem Beitrag zeigen wir, inwiefern der IT-Sicherheitsforschung hierbei eine zentrale Rolle zukommt, aber auch, dass im Rahmen dieser Rolle eine besondere forschungsethische Problematik entsteht. Weil IT-Sicherheitsrisiken strukturell neuartige Probleme für die gesellschaftliche Gewährleistung von Sicherheit aufwerfen, treten Forschende systematisch auch in die Rolle der Angreifenden. Dabei erhöhen Forschende durch den notwendigen Schritt der Veröffentlichung (...) gefundener Lücken die Gefährdungslage von IT-Systemen. Zugleich zielt die Entwicklung von Angriffstechniken normativ auf eine Stärkung gesamtgesellschaftlicher Sicherheit: die Sicherheitslücken sollen geschlossen und die Robustheit von IT-Systemen vergrößert werden. Hier wird ein Konflikt im Umgang mit IT-Sicherheitsrisiken deutlich, der einen Bedarf an ethischer Orientierung erzeugt. Im Beitrag zeigen wir, inwiefern sich in der Forschungspraxis auch bereits Anfänge einer systematischen ethischen Reflexion als Antwort auf diesen Bedarf herausgebildet und institutionalisiert haben. Da die Problematik im Umgang mit Sicherheitslücken aber noch nicht adäquat adressiert wird, vertreten wir die These, dass in der IT-Sicherheitsforschung der Schritt hin zu einer Bereichsethik für IT-Sicherheitsforschung erforderlich ist, um so adäquatere Orientierungsangebote für Forschende entwickeln und um die breitere gesellschaftspolitische Rolle der Sicherheitsforschung reflektieren zu können. (shrink)

Sicherheitsfragen spielen für die Gestaltung technischer Innovation und Entwicklung sowie für deren gesellschaftliche Implementierung eine zentrale Rolle. Wonach hierbei im Einzelfall konkret gefragt wird, ist aber keinesfalls eindeutig. Vielmehr verweist der Sicherheitsbegriff immer auf ein komplexes Gefüge von Urteils- und Wertungszusammenhängen, die es im situativen Kontext von Mensch-Maschine-Interaktionen zu explizieren gilt.

Sicherheitsfragen spielen für die Gestaltung technischer Innovation und Entwicklung sowie für deren gesellschaftliche Implementierung eine zentrale Rolle. Wonach hierbei im Einzelfall konkret gefragt wird, ist aber keinesfalls eindeutig. Vielmehr verweist der Sicherheitsbegriff immer auf ein komplexes Gefüge von Urteils- und Wertungszusammenhängen, die es im situativen Kontext von Mensch-Maschine-Interaktionen zu explizieren gilt.

Um berechtigten Bedenken gegenüber Videoüberwachung zu begegnen, wird ein soziotechnisches Konzept vorgeschlagen, das eine reversible Anonymisierung von Bilddaten mit einer (möglichst zivil eingesetzten) Kontrollinstanz kombiniert, um so technische und interpersonelle Vertrauenskonzepte stimmig zu vermitteln.