Petites et grandes erreurs informatiques

Par Olivier, mardi 28 juin 2005 à 00:00 :: LinuxFR :: #315 :: rss

Texte initialement publié sur LinuxFR

250 millions de dollars d'actions achetées par erreur
TAIPEI (Reuters) - Une employée d'une société de Bourse taiwanaise a acheté par erreur pour 7,9 milliards de dollars taiwanais (250 millions de dollars) d'actions du fait d'une mauvaise manipulation informatique.

L'opératrice, employée par Fubon Securities, a mal saisi un ordre ...

Ce serait presque risible, mais ce qui me retient c'est d'imaginer que ce ce n'est pas forcément mieux dans des secteurs où les conséquences sont potentiellement plus graves, genre contrôle aérien, nucléaire... Il disent dans l'article que ça a coûté sa place à l'opératrice, mais est-elle la seule responsable ?

La source: http://fr.news.yahoo.com/050628/290/4hbeq.html(...)

Trackbacks

Aucun trackback.

Les trackbacks pour ce billet sont fermés.

Commentaires

1. Le mardi 28 juin 2005 à 12:02, par TImaniac

mouais

C'est une erreur humaine, pas informatique.
Le programme aurait été buggué et aurait lui même effectuée une mauvaise opération ok, mais là c'est l'opératrice qui s'est gourré.

Je te rassures, dans le nucléraire, c'est surement pas une secrétaire qui en glissant sur son clavier manipule les réacteurs ;)

Quand au contrôle aérien, voir même au pilotage aérien, pour justement éviter ce genre de problème typiquement "humain", on confie le maximum de boulot aux ordinateurs. Cf le magnifique "crash" en plein vole au dessus d'un lac (en Autriche il me semble) entre 2 avions : les ordinateurs de bord s'étaient accordés pour que l'un monte et l'autre descende, et ben c'est le pilote russe qui, habituer à obénir aux ordres humains n'a pas privilégier l'ordre de son ordinateur.

2. Le mardi 28 juin 2005 à 12:08, par Calim' Héros

Ba je connais pas leur logiciel...

Mais bon c'est quand meme elle qui a fait la sasie, et a ce que je sache on peut pas encore faire que le logiciel devine la valeur que tu veux vraiment saisir.

Sinon dans le nucleaire, dans une centrale normande, un ami qui y bossait me disait : On va pas vite et on est payer pour parce que ca serait con de faire une fausse manoeuvre dans la précipitation. (il c'etait fait reprendre par un de ces collegue qui trouvais quil allait trop vite).
De même le complexe est bourré de salle de reunion et au moindre pb, a la moindre decision presque, ils n'esitent pas a les utiliser et a réfléchir avant d'agir.

3. Le mardi 28 juin 2005 à 12:42, par Jean-Pierre Rastaffarin

Re: mouais

Je te rassures, dans le nucléraire, c'est surement pas une secrétaire qui en glissant sur son clavier manipule les réacteurs ;)
Ben non, c'est tout de même un ingénieur qui en glissant sur son clavier manipule les réacteurs. Ca fout les boules, hein ? Dans les deux cas, le système est en cause, je suppose qu'il faudrait que de telles opérations soient validées. Imaginez qu'un employé malveillant fasse racheter Eurotunnel !

4. Le mardi 28 juin 2005 à 12:42, par Robin des Bulles

Re: mouais

Ce qu'il y a de génial, c'est que s'ils avaient viré à droite ou à gauche, au lieu de monter ou descendre, tout le monde serait encore en vie ...

5. Le mardi 28 juin 2005 à 12:42, par moudj

Re: mouais

Quand au contrôle aérien pour justement éviter ce genre de problème typiquement "humain", on confie le maximum de boulot aux ordinateurs

je crois que c'est exactement le contraire.
le contrôle aérien est beaucoup trop complexe pour être programmé.
Il y a quelques années, on avait essayé d'informatiser une partie du métier de contrôleur aérien, et on a vite fait marche arrière.

6. Le mardi 28 juin 2005 à 12:43, par zeb

cynique

On appreciera le commentaire du requin, qui apres avoir vire l'operatrice, declare:
"Malgré tout, compte tenu des bonnes perspectives pour la Bourse au second semestre, nous n'envisageons pas de revendre les titres à courts terme", a-t-il ajouté.

Bref, on a perdu des sous, mais c'est pas grave, on finira par se rattraper. Quant a la pauvre operatrice, elle ne profitera pas des "bonnes perspectives du second semestre".

7. Le mardi 28 juin 2005 à 12:50, par Sylvain Briole

Re: Ba je connais pas leur logiciel...

Et pourtant, la tendance va au gain de temps : les clients (EDF, ...) cherchent souvent à réduire le temps d'une révision, de manière à maximiser la production des centrales.

8. Le mardi 28 juin 2005 à 12:54, par kurun

Re: Ba je connais pas leur logiciel...

\begin{Poujado-populisme}
Ils sont nucléaires à la poste? Non parce que ce matin, ils ont bien pris leur temps pour me refiler ma lettre recommandée.
\end{Poujado-populisme}

9. Le mardi 28 juin 2005 à 13:05, par kra

Re: mouais

ouais, mais non, les couloirs sont bien definis et la 3ieme dimension permet de s'etager verticalement et non horizontalement.
En gros les controleurs contraignent les avions a un niveau de vol, apres si les pilotes ne les respectent pas...

J'ai pas entendu parler de cet accident, mais on peut imaginer qu'il n'est pas envisageable de decaler le couloir de vol (passage a proximite d'une ville, presence d'un relief, d'une zone interdite de survol, que sais je encore).

bref, en aeronautique, on a 3 dimensions et on les utilise :)

10. Le mardi 28 juin 2005 à 13:17, par Lol Zimmerli

Re: mouais

J'ai pas entendu parler de cet accident

http://www.skyguide.ch/fr/Dossiers/DossierUeberlingen/(...)
http://www.swissinfo.org/sfr/swissinfo.html?siteSect=2001&sid=3(...)
http://archquo.nouvelobs.com/cgi/articles?ad=etranger/20020703.OBS7(...)
http://www.liberation.fr/page.php?Article=181372(...)

11. Le mardi 28 juin 2005 à 13:37, par TImaniac

Re: mouais

En gros les controleurs contraignent les avions a un niveau de vol, apres si les pilotes ne les respectent pas...
Bah justement, le contrôleur a indiqué au pilote russe de monter ou descendre (je sais plus), et l'ordinateur de bord indiqué le contraire. Le russe a fait confiance à l'humain, et craque.

12. Le mardi 28 juin 2005 à 13:38, par TImaniac

Re: mouais

Dans les deux cas, le système est en cause, je suppose qu'il faudrait que de telles opérations soient validées.
Genre tu crois que dans le nucléaire elles n'ont pas besoin d'être validées. Et puis il y a un certains nombre de système de sécurités pour empêcher de faire une connerie, même validée.

13. Le mardi 28 juin 2005 à 13:39, par Pooly

Re: mouais

C'est une erreur humaine, pas informatique.

je considere cela comme un erreur informatique. Les bourses de dérivatifs comme Euronext et Eurex ont des systemes de vérification pour les volumes abhérant et les prix hors marché. De plus l'application se doit de vérifier se genre de limite (limite de volume par jour, par opération, par opérateur, en volume absolue etc...)

14. Le mardi 28 juin 2005 à 13:43, par Olivier Guerrier

Re: Ba je connais pas leur logiciel...

Mais bon c'est quand meme elle qui a fait la sasie, et a ce que je sache on peut pas encore faire que le logiciel devine la valeur que tu veux vraiment saisir.

Sans chercher absolument à minimiser sa responsabilité, on peut se poser au moins trois questions:

- la présence (ou absence) de contrôles avant validation par le système informatique. La nature de ces contrôles (manuel, automatique, etc) autant on peut se tromper et saisir 2.3 au lieu de 3.2 et l'ordinateur n'y verra probablement rien, autant entre 2.3 et 2300 il y a peut-être quelque chose à faire. Pour revenir au cas ci-dessus, un zéro de plus et elle leur en mettait pour 2,5 milliards ...

- l'ergonomie du bousin, combien de systèmes métiers ont une ergonomie digne d'un oursin ? Parfois l'erreur est à chercher aussi de ce coté là. La trouver permet de limiter de risque de récidive. Dans l'aéronautique, il y a eu la catastrophe du Mont St Odile, où une des thèses évoquait l'erreur de saisie d'un paramètre de vol (où les même boutons permettaient de programmer plusieurs mode de descente)

- la formation, quand on voit la facilité avec laquelle les entreprises lâchent parfois les nouveaux arrivés sur le système interne (parfois au point que la hotline se retrouve à faire de la formation systèmatique).

15. Le mardi 28 juin 2005 à 13:50, par TImaniac

Re: mouais

Tu considères mal.
Même si pour toi le montant parraît abberrant, c'est relativement courant dans le milieu des affaires. L'ordinateur est pas censé savoir que tu t'es planté d'action, etc. Si la secrétaire demande le mauvais ordre, c'est un mauvais ordre qui sera exécuté. En l'occurence l'ordre passé est tout à fait "normal" (c'est pourquoi il n'a pas été détecté), même si ce n'est pas celui initialement demandé.

16. Le mardi 28 juin 2005 à 13:57, par kra

Re: mouais

oui, oui, ca j'avais bien compris.
je repondais au post disant en substance "ben ils auraient du tourner un a droite l'autre a gauche", pour indiquer que ce genre de manoeuvres ne se fait pas en controle aerien ou on prefere etager les avions a des niveaux de vols differents (ce qui n'empeche d'ailleurs pas de decaler legerement les axes de vol).

17. Le mardi 28 juin 2005 à 14:08, par Benjamin

Re: mouais

... Tiens, ca me fait penser à Henri ca...

C'est justement là où l'informatique moderne, avec les "systèmes intelligents" (notez les guillemets) doit permettre de déclencher des alertes ou validations supplémentaires dans les cas 'apparemments inhabituels' ... Cela ne couterait pas grand chose de mettre un système intelligent dans ce genre de transaction pour cela ...

18. Le mardi 28 juin 2005 à 14:14, par Yannick P.

Re: mouais

Mais le cas n'étais PAS inhabituel...

19. Le mardi 28 juin 2005 à 14:19, par TImaniac

Re: cynique

Bah faut qu'ils rassurent leurs actionnaires. Quand à la "pauvre" opératrice comme tu dis, elle a tout de même fait une grave faute professionnelle il me semble. Elle n'a pas à assumer les responsabilités financières, mais elle doit quand même assumer ses responsabilité d'opératrice.

20. Le mardi 28 juin 2005 à 14:23, par Guillaume Deshors

Re: mouais

Grande nouvelle : après leurs jumeaux "hazzard" et "bizzard", M. et Mme Linuxfr ont la joie de vous présenter leur dernier-né : "abhérant" !
Déja très présent dans les forums, il semble qu'il soit en phase ascendante et promis à un avenir radieux. Souhaitons-lui bonne chance !

----
Bon voila les mots corrects : hasard, bizarre, et aberrant (avec un seul 'b' et pas de h). Tant qu'à y être : "ce genre de limite" ; enfin "volume" est masculin. Sans rancune :)

21. Le mardi 28 juin 2005 à 14:24, par nicO

Re: mouais

J'avais discuté il y a qq année sur le sujet avec des controleurs aérien. Il vait une peur bleue des radars anti-collision des avions de lignes.

Si celui-ci voit un appareil il dit de monter ou de descendre. Manque de bol, le radar ne voit pas tout, notament les appareils militaires. Or les pilotes avaient (à l'époque) tendancent à faire plus confiance à leur instrument qu'au ordre du controleur aérien qui lui voit très bien les avions militaires. C'est souvent pas passé loin...

22. Le mardi 28 juin 2005 à 14:26, par lezardbreton

Re: mouais

Tout dépend, si elle a acheté pour 250 millions de dollars d'actions sur une seule valeur taiwanaise, elle a dépassé une limite logique par valeur. Je travaille en salle des marchés, ce montant n'est pas aberrante du tout sur des marchés Europe/Etats Unis/Japon, mais pas Taiwan. Ensuite, tu as logiquement une limite par titre, par pays. La gestion des risques est là pour t'avertir d'un effondrement de ton PNL (profit and loss), ce qui est su instantanément.
Je gère une application en salle qui traite des mouvements de 1 milliard d'euros/jour, donc, je suis aussi au cours des volumes quotidiens que gèrent ces entités.
Dans cet exemple, il y a erreur humaine et technique à mon avis.

23. Le mardi 28 juin 2005 à 14:30, par TImaniac

Re: mouais

Ben en fait d'après ce que j'en avais lu moi, c'est qu'il n'y avait pas la même culture côté "russe" que côté européen : côté européen le pilote fait "confiance" à la technique, alors que côté russe, non pas qu'on fasse plus confiance à l'humain, mais on est habitué à "obéir" (lourd héritage politique derrière oblige), ce qui ne déclenche apparement pas les mêmes "réflexes" chez les pilotes. Enfin tout ca pour dire que l'ordinateur a cet avantage de ne pas réfléchir. Parfois ca aide. On s'en appercoit assez souvent au recrutement des militaires destinées aux premières lignes :-/

24. Le mardi 28 juin 2005 à 15:18, par Aetius

Re: mouais

Si je me souviens bien, l'erreur dans ce cas d'accident aérien est entièrement imputable au controle aérien. Normalement, il sont deux à la console, l'un pouvant aux déficience de l'autre. Hors dans ce cas, un seul controleur était présent. Il a réagit tardivement et a paniqué. Le pilote russe, qui était équipé anticollision, a réagit aux injonctions du controle, dont l'instrumentation plus précise et la redondance des aiguilleurs lui donnait normalement une plus grande fiabilité. Le pilote a eu raison, mais il ne pouvait prévoir l'erreur funeste de Berne.

Le même genre de collision a déja eu lieu, notemment dans la fin des années 50 en Yougoslavie, impliquant un Comet britannique et un autre appareil (je ne me souvient plus du modèle). Le controle leur avait ordonné de voler à la même altitude, sur une trajectoire de collision. Bien que se passant de jour, leur positions respectives ne leur permettait pas de se voir, et l'aile du second avion a arraché le cockpit du Comet. Les deux avions s'écrasèrent.

Normalement, la circulation aérienne étage les appareils tous les 1000 pieds en fonction de leur direction. De 1 à 180, 10000 pieds; de 181 à 360, 11000 pieds; de 1 à 180, 12000 pieds, etc. Mais dans les zone de prise de controle (transit, approche) c'est le controle qui donne le cap et altitude. Parfois, l'anglais approximatif des pilotes provoques des incidents (appareils se croisant à moins d'un nautique avec une différence d'altitude inférieure à 500 pieds, ce qui peut sembler beaucoup, mais avec des avions qui évoluent entre 8 et 15 km/mn, c'est très peu).

Bref, l'erreur est humaine, et dans ce cas mortelle.

25. Le mardi 28 juin 2005 à 15:34, par Mickaël Leduque

Re: mouais

Dans ce cas, l'erreur est peu importante, et la secrétaire se prend un blame et n'est pas virée, non?

26. Le mardi 28 juin 2005 à 16:40, par kesako

Re: cynique

oui, de deux chose l'une :
- soit ce n'est qu'une simple operatrice et dans ce cas c'est abherant qu'il n'y ait aucun controle (informatique ou non), aucune limite sur ce qu'elle fait. On parles qd meme de 250 millions de dollars ...

- soit , plus probable, c'est une operatrice de haut vol tres tres bien payee parce que responsable de ce qu'elle fait. Dans ce cas , elle doit assumer son erreur.

27. Le mardi 28 juin 2005 à 16:59, par TImaniac

Re: mouais

Je vois pas le rapport.
Le système lui a peut être demandé confirmation, et par "habitude" a confirmé. Après ce n'est peut être pas une simple opératrice, elle doit avoir des responsabilités pour pouvoir manipuler ce genre de montant, auquel cas elle doit assumer son erreur, même si l'ordinateur n'a pas assez "averti".
T'es employé dans un magasin et tu oublies de fermer à clé la boutique en partant le soir alors que c'est quelque chose d'habituel, c'est une faute professionnelle.

De toute façon on n'a pas les détails techniques, on ne sait pas à quel niveau elle a effectuée l'erreur, ni quel niveau d'avertissement elle a eu de la part de l'ordinateur, si elle a eu à confirmer, etc.

Ce qui est sûr c'est que c'est l'humain qui a commis l'erreur, l'ordinateur ne l'a peut être pas assez averti mais l'erreur est humaine, et la responsabilité de l'opératrice sans doute en jeu.

28. Le mardi 28 juin 2005 à 17:02, par TImaniac

Re: mouais

le contrôle aérien est beaucoup trop complexe pour être programmé.
J'ai dis on confie le "maximum". Quand c'est trop complexe et pas faisable on fait pas forcement.

on avait essayé d'informatiser une partie du métier de contrôleur aérien
On avait "essayer". Z'ont pas réussi, mais c'est pas pour ca que ce n'est plus dans leur objectif.

29. Le mardi 28 juin 2005 à 17:27, par toujours

Re: mouais

Dans les centrales de dernière génération (en France), les commandes de l'opérateur sont validées par un ingénieur surêté, et en tout cas, il y a effectivement pas mal de sécurités conçues dans la centrale, justement afin d'empêcher des erreurs humaines et les défaillances mécaniques.

N'oublions pas le vieux dicton (connu depuis longtemps) : "To err is human, but to really mess things up you need a computer".

30. Le mardi 28 juin 2005 à 17:33, par Guillaume Knispel

Re: mouais

Et un système de sureté automatique et indépendant est capable d'effectuer tout seul un arret d'urgence.

31. Le mardi 28 juin 2005 à 18:37, par Robin des Bulles

Re: mouais

Un HAL 9000, en somme ...

(... Quoi ?)

32. Le mardi 28 juin 2005 à 18:40, par kra

Re: mouais

d'ailleurs toute ressemblance avec un personnage de dessin anime tout jaune avec 4 cheveux sur la tete amateur de donut serait pure coincidence :))

33. Le mardi 28 juin 2005 à 21:44, par traboolix

L'admin ecrira 100 fois

On va pas vite et on est payer pour parce que ca serait con de faire une fausse manoeuvre dans la précipitation

Certains admins devraient l'ecrire 100 fois...

Et leurs boss :))

34. Le mardi 28 juin 2005 à 22:09, par norbs

Re: mouais

>>on avait essayé d'informatiser une partie du métier de contrôleur aérien
> On avait "essayer".

Trop fort d'arriver à faire une faute d'orthographe en copiant un commentaire, et en la mettant bien entre guillemets !

35. Le mardi 28 juin 2005 à 22:31, par Bibinsa

Re: mouais

C'est relativement faux....

On informatise de plus en plus le controle aérien. Bien que ça fasse râler (car ça enlève de la compétence, donc du pouvoir, aux controleurs), ça devient vite indispensable.

cf. le séquenceur Maestro !

36. Le mardi 28 juin 2005 à 23:21, par Will Hunting

Re: mouais

Suffit de voir l'excuse que l'opératrice a sortie : "c'était comme ça quand je suis arrivée !"

37. Le mercredi 29 juin 2005 à 00:57, par Gniarf

Re: mouais

un Skynet

(boum)

38. Le mercredi 29 juin 2005 à 10:13, par bobert

Nucléaire

Ce serait presque risible, mais ce qui me retient c'est d'imaginer que ce ce n'est pas forcément mieux dans des secteurs où les conséquences sont potentiellement plus graves, genre contrôle aérien, nucléaire...

Heureusement dans le nucléaire et pour les opérations à très haut risque ça ne se passe pas comme ça : il y a 1 personne pour suivre une check-list pas à pas, une seconde pour exécuter et une troisième pour contrôler, toujours pas à pas, le déroulement de l'opération.

Ce qui peut rassurer... ou inquiéter, selon le point de vue : puisqu'on sait qu'il faut un protocole aussi redondant pour minimiser les risques dûs au facteur humain, a contrario on peut s'attendre à des erreurs si celui-ci n'est pas mis en place, c'est-à-dire... dans 99% des situations...

39. Le mercredi 29 juin 2005 à 10:44, par Laurent Pointal

Re: mouais

Dans certains cas c'est possibles.

Dans d'autres cas un système automatique isolé n'est pas capable d'estimer l'impact de son arrêt vis à vis du fonctionnement général [*] et il vaut mieux remonter d'un niveau... et le niveau de décision final c'est le bonhomme.

Pas toujours simples les automatismes de sécurité. Voir même très compliqués dans certains cas.

[*] Une pompe détecte un échauffement. Peut-être faut-il l'arrêter car c'est elle qui chauffe. Mais peut-être est-ce le liquide en circulation qui lui chauffe, et il vaudrais mieux que la pompe accélère le débit...

40. Le mercredi 29 juin 2005 à 11:52, par Calim' Héros

Re: mouais

Voire meme, si c'est la pompe qui pompe l'eau qui sert a eteindre le feux qui l'entoure et la fait chauffée, il faut mieux pas qu'elle s'arrete.

41. Le mercredi 29 juin 2005 à 18:19, par Guillaume Knispel

Re: mouais

Ouai mais ya au moins un automate qui déclenche la chute des barres en cas de gros n'importe quoi nan ?

Après évidemment faut bien refroidir le coeur, donc si le n'importe quoi est vraiment énorme ca devient compliqué

42. Le mercredi 29 juin 2005 à 22:12, par Sylvain Sauvage

Re: mouais

Et elle avait bien demandé à sa collègue « couvre-moi ! »

43. Le jeudi 30 juin 2005 à 00:22, par Pooly

Re: mouais

Même si pour toi le montant parraît abberrant, c'est relativement courant dans le milieu des affaires

Parceque tu crois que je fais quoi dans la vie ? du tarot ??? Un trader doit normalement avoir un système de gestion de risque avec des limites en back-office. Avec une matrice de risque suivant un jeu de paramètres qui varie entre des variations acceptables. Point.

44. Le jeudi 30 juin 2005 à 00:36, par fleny68

Re: Nucléaire

FUD: il n'y a pas d'opérations à très hat risque dans le nucléaire.

Le nucléaire est absolument anodin et sans danger.

45. Le jeudi 30 juin 2005 à 08:42, par Nelis

Re: Nucléaire

Va dire ça à la population de Tchernobyl ...

Ajouter un commentaire

Les commentaires pour ce billet sont fermés.

Olivier Guerrier