هوش مصنوعی هم اشتباه می‌کند

به گزارش خبرنگار خبرگزاری علم و فناوری آنا، حدود 20 سال پیش، شرکت ژاپنی فوجیتسو نرم‌افزار یک حسابداری برای استفاده در ادارات پست بریتانیا تولید کرد. این نرم‌افزار با اشتباهات خود منجر شد بسیاری از کارکنان ادارۀ پست در معرض اتهام دزدی و حسابداری نادرست قرار بگیرند. در نتیجه بسیاری از کارکنان با پیگرد قانونی، زندان و ویرانی زندگی شخصی خود مواجه شدند.

چارچوب قانونی در انگلستان و ولز سیستم‌های رایانه‌ای را بدون خطا فرض می‌کند. چنین فرضی باعث می‌شود نتایج حاصل از کار رایانه‌ها را نتوان به سادگی به چالش کشید. این پیش‌فرض به نوبۀ خود منجر به نوعی نابرابری می‌شود، چنانچه افراد باید اثبات کنند که از رایانه‌ها به شکلی نادرست استفاده نکرده‌اند.

این رویکرد قانونی باید تغییر کند. یکی از راه‌های تغییر این است که پیش‌فرض اطمینان به رایانه باید جای خود را به الزام افشای داده‌ها و کد‌های مربوط به هر پروندۀ حقوقی بدهد.

به‌علاوه، برای جلوگیری از دستکاری شواهد باید استاندارد‌های امنیت اطلاعات، ممیزی سیستم، گزارش‌های خطا و اقدامات انجام شده نیز برای دادگاه‌ها افشا شوند. نیاز به شفافیت در پرونده‌های حقوقی روز به روز بیشتر می‌شود و باید پاسخی مناسب برای آن یافت.

تاکنون در برخورد قانونی با برونداد‌های رایانه‌ها، پیش‌فرض همواره این بوده که می‌توان به عملیات رایانه‌ها اطمینان کرد. اما استفادۀ روزافزون از هوش مصنوعی، به‌ویژه در فرایند‌های تصمیم‌گیری لزوم بازنگری بر قوانین این حوزه را برجسته می‌کند. گسترش استفاده از هوش مصنوعی باعث می‌شود آنچه در سیستم‌های رایانه‌ای ادارۀ پست بریتانیا رخ داد با تناوب بیشتری رخ دهد و برای جلوگیری از رسوایی‌های قضایی مشابه در آینده، باید در قوانین مربوطه بازنگری شود.

به طور خلاصه، باید به بی‌عدالتی ناشی از نقص در سیستم‌های رایانه‌ای توجه کرد. این بی‌عدالتی لزوم ارزیابی دوبارۀ مفروضات قانونی را برجسته می‌کند، به‌ویژه این امر که فرایند‌های رایانه‌ای همواره قابل اعتماد هستند و نیازی به بررسی آن نیست. این امر با ظهور فناوری هوش مصنوعی و گسترش استفاده از آن به فرایند تصمیم‌گیری، بیش از پیش اهمیت یافته است.