Class 9 Computer Science — Complete notes in English and Urdu
AI systems can make biased decisions that affect people's lives. Some real-world examples include facial recognition systems that are less accurate for people with darker skin tones, hiring algorithms that prefer certain genders or ethnicities, loan approval systems that deny loans to minority groups, healthcare AI that gives different recommendations based on race, and criminal justice tools that predict higher risk for certain groups. These examples show that AI is not always fair. It is important to check AI systems for bias and use diverse data to make them more fair and inclusive.
AI سسٹمز متعصب فیصلے کر سکتے ہیں جو لوگوں کی زندگیوں کو متاثر کرتے ہیں۔ کچھ حقیقی دنیا کی مثالوں میں چہرے کی شناخت کے نظام شامل ہیں جو گہری جلد کے رنگ والے لوگوں کے لیے کم درست ہیں، ملازمت کے الگورتھم جو بعض جنسوں یا نسلوں کو ترجیح دیتے ہیں، قرض کی منظوری کے نظام جو اقلیتی گروہوں کو قرض دینے سے انکار کرتے ہیں، صحت کی دیکھ بھال AI جو نسل کی بنیاد پر مختلف سفارشات دیتی ہے، اور فوجداری انصاف کے ٹولز جو بعض گروہوں کے لیے زیادہ خطرہ پیش گوئی کرتے ہیں۔ یہ مثالیں ظاہر کرتی ہیں کہ AI ہمیشہ منصفانہ نہیں ہے۔ AI نظاموں کو تعصب کے لیے جانچنا اور انہیں زیادہ منصفانہ اور جامع بنانے کے لیے متنوع ڈیٹا کا استعمال کرنا ضروری ہے۔
| Field | Example of Bias | Impact |
|---|---|---|
| Facial Recognition | Less accurate for darker skin tones | Wrong identification, false arrests |
| Hiring Algorithms | Preference for certain genders or ethnicities | Unfair job opportunities |
| Loan Approval | Denying loans to minority groups | Financial inequality |
| Healthcare AI | Different recommendations based on race | Unequal medical treatment |
| Criminal Justice | Predicting higher risk for certain groups | Unfair sentencing and bias |
| Social Media | Showing ads based on biased assumptions | Targeted discrimination |
| شعبہ | تعصب کی مثال | اثر |
|---|---|---|
| چہرے کی شناخت | گہری جلد کے رنگ کے لیے کم درست | غلط شناخت، جھوٹی گرفتاریاں |
| ملازمت کے الگورتھم | بعض جنسوں یا نسلوں کو ترجیح | غیر منصفانہ ملازمت کے مواقع |
| قرض کی منظوری | اقلیتی گروہوں کو قرض دینے سے انکار | مالی عدم مساوات |
| صحت کی دیکھ بھال AI | نسل کی بنیاد پر مختلف سفارشات | غیر مساوی طبی علاج |
| فوجداری انصاف | بعض گروہوں کے لیے زیادہ خطرہ کی پیش گوئی | غیر منصفانہ سزا اور تعصب |
| سوشل میڈیا | متعصب مفروضوں کی بنیاد پر اشتہارات دکھانا | ہدف شدہ امتیاز |