کارشناس هوش تجاری به‌پرداخت ملت با تشریح کاربرد هوش مصنوعی عامل‌محور در صنعت پرداخت گفت: این فناوری می‌تواند فرآیندهای زمان‌بر استخراج و تحلیل داده را در چند ثانیه انجام دهد؛ البته امنیت داده و نظارت انسانی همچنان ضروری است.

به گزارش ستاد خبری اینوتکس ۲۰۲۶، پنل «هوش مصنوعی در صنعت پرداخت» با حضور داریوش نجارزاده، کارشناس زیرساخت و شبکه؛ سعید علی‌اکبری، کارشناس هوش تجاری؛ امیر محسنی، کارشناس امنیت؛ محمد طیبی، مدیرکل زیرساخت و شبکه؛ محمد دماوندی، مدیرکل امنیت و محمدحسین حسینی، کارشناس ارشد هوش مصنوعی شرکت به‌پرداخت ملت، در حاشیه اینوتکس ۲۰۲۶ و در سومین کنفرانس ملی و نخستین کنفرانس بین‌المللی هوش مصنوعی و اینترنت اشیا برگزار شد.

سعید علی‌اکبری، کارشناس هوش تجاری شرکت به‌پرداخت ملت در این پنل با تشریح کاربرد مدل‌های عامل‌محور در صنعت پرداخت گفت: در روش‌های سنتی هوش تجاری زمانی که مدیر یا کارشناس سازمان به دنبال دریافت اطلاعاتی مانند بهترین مشتری در ماه‌های اخیر، شهر یا استان برتر از نظر تراکنش یا سایر شاخص‌های عملکردی است، درخواست ابتدا به تیم هوش تجاری منتقل می‌شود و داده‌های مورد نیاز پس از استخراج معمولا در قالب فایل یا اکسل در اختیار کاربر قرار می‌گیرد تا مراحل بعدی تحلیل روی آن انجام شود.

وی افزود: این فرآیند ممکن است ساعت‌ها زمان کارمند یا مدیر را برای دریافت یک پاسخ به خود اختصاص دهد، در حالی که مدل‌های عامل‌محور می‌توانند در صورت فراهم بودن زیرساخت سخت‌افزاری مناسب نتیجه مورد نظر را در چند ثانیه ارائه کنند.

عبور هوش مصنوعی از «پرسش و پاسخ» به «استدلال و اقدام»

علی‌اکبری با اشاره به تحول مدل‌های هوش مصنوعی اظهار کرد: تا همین چند سال پیش با ظهور مدل‌هایی مانند ChatGPT، تصور غالب این بود که هوش مصنوعی سامانه‌ای است که کاربر از آن سوال می‌پرسد و پاسخ دریافت می‌کند؛ اما مدل‌های جدید صرفا به پرسش و پاسخ محدود نیستند و می‌توانند علاوه بر استدلال، اقدام مورد نیاز را نیز انجام دهند.

وی ادامه داد: معماری «Reasoning and Action» یا «استدلال و اقدام» به این معناست که سامانه ابتدا درخواست کاربر را درک و تحلیل می‌کند سپس اقدام لازم را انجام می‌دهد و در نهایت می‌تواند داده به‌دست‌آمده را تحلیل کرده یا عملیات مورد درخواست کاربر را اجرا کند.

عامل هوشمند چگونه به یک درخواست پاسخ می‌دهد؟

کارشناس هوش تجاری شرکت به‌پرداخت ملت درباره فرآیند عملکرد یک عامل هوشمند توضیح داد: در مرحله نخست سیستم باید تشخیص دهد سوال کاربر دقیقا چیست و چه داده‌ای مورد نیاز است. پس از آن باید مشخص شود داده مورد نظر از کجا قابل استخراج است، عامل چه سطحی از دسترسی را دارد و ساختار یا دسته‌بندی پایگاه داده چگونه است.

به گفته وی پس از مشخص شدن این موارد، ابزار مناسب برای استخراج داده فراخوانی می‌شود و داده مورد نیاز استخراج خواهد شد. در مرحله نهایی نیز عامل هوشمند می‌تواند داده‌های به‌دست‌آمده را تحلیل کرده و نتیجه مورد نظر کاربر را ارائه دهد.

ترکیب معماری «واکنش و اقدام» با «متن به SQL»

علی‌اکبری با اشاره به روندهای مطرح‌شده در مقالات و پژوهش‌های جدید در حوزه سیستم‌های عامل‌محور گفت: یکی از محورهای مهم در این زمینه، ترکیب معماری «ReAct» با معماری «Text-to-SQL» است؛ به این معنا که سیستم می‌تواند به صورت همزمان فرآیند استدلال و اقدام را با تبدیل درخواست متنی کاربر به پرس‌وجوی قابل اجرا روی پایگاه داده انجام دهد.

وی همچنین به تجربه شرکت به‌پرداخت ملت در توسعه یک چت‌بات هوشمند برای مرکز تماس اشاره کرد و گفت: این چت‌بات بر اساس مجموعه‌ای از پرسش‌ها و پاسخ‌های پرتکرار مرکز تماس طراحی شده و این اطلاعات در قالب یک پایگاه داده برداری (Vector Database) ذخیره شده است.

علی‌اکبری افزود: استفاده از این روش علاوه بر افزایش سرعت پاسخ‌گویی، می‌تواند به حفظ محرمانگی اطلاعات نیز کمک کند؛ چراکه اطلاعات مورد نیاز در محیط داخلی سازمان نگهداری و پردازش می‌شود.

فاین‌تیونینگ؛ یکی از مسیرهای توسعه مدل‌های سازمانی

وی در ادامه با اشاره به موضوع «Fine-tuning» یا تنظیم دقیق مدل‌ها گفت: فاین‌تیونینگ یکی دیگر از موضوعات مهم در توسعه این سیستم‌هاست و روش‌های مختلفی برای انجام آن وجود دارد که متناسب با نیاز و شرایط سازمان می‌توان از آنها استفاده کرد.

امنیت داده؛ چالش اصلی هوش مصنوعی در صنعت پرداخت

کارشناس هوش تجاری شرکت به‌پرداخت ملت، امنیت داده را یکی از مهم‌ترین چالش‌های پیاده‌سازی سیستم‌های عامل‌محور در صنعت بانکی و پرداخت دانست و گفت: در شرکت‌های بانکی و پرداختی، امنیت داده اهمیت بسیار بالایی دارد و اطلاعات سازمانی را نمی‌توان از مجموعه خارج کرد.

وی تأکید کرد: به همین دلیل، مدل‌ها و داده‌های مورد استفاده باید تا حد امکان به صورت آفلاین و در داخل سازمان پردازش شوند و الزامات مربوط به محیط Sandbox نیز رعایت شود.

توهم هوش مصنوعی؛ چالشی که به صفر نمی‌رسد

علی‌اکبری توهم یا Hallucination را یکی دیگر از چالش‌های مهم این سیستم‌ها عنوان کرد و گفت: برای کنترل توهم تکنیک‌های مختلفی وجود دارد که یکی از ساده‌ترین آنها استفاده از پرسش و پاسخ‌های متوالی و دریافت جزئیات بیشتر از کاربر است.

وی در توضیح این موضوع مثالی زد و گفت: اگر کاربر از سیستم بپرسد «بهترین مشتری شرکت در ماه اخیر چه کسی بوده است؟»، سیستم ممکن است ابتدا نیاز به دریافت اطلاعات بیشتری داشته باشد؛ برای مثال باید مشخص شود منظور از «بهترین» چیست و آیا معیار مبلغ تراکنش، تعداد تراکنش‌ها یا شاخص دیگری است.

به گفته وی سیستم با دریافت این اطلاعات مرحله به مرحله به نتیجه مورد نظر کاربر نزدیک‌تر می‌شود و احتمال توهم نیز کاهش پیدا می‌کند.

علی‌اکبری تصریح کرد: حتی اگر مدل‌ها بسیار قدرتمند باشند و از شبکه‌های عصبی پیچیده استفاده کنند نمی‌توان انتظار داشت میزان توهم آنها به صفر برسد؛ بنابراین کاربر نیز باید در فرآیند استفاده از این سیستم‌ها نقش کنترلی داشته باشد.

«انسان در حلقه» برای جلوگیری از خطای عامل‌ها

وی یکی دیگر از چالش‌های سیستم‌های عامل‌محور را احتمال گرفتار شدن عامل‌ها در یک حلقه تکراری عنوان کرد و گفت: ممکن است مجموعه‌ای از عامل‌ها در فرآیند انجام یک کار وارد یک Loop شوند و نتوانند عملیات را به نتیجه برسانند. در چنین شرایطی حضور یک عامل انسانی یا همانHuman in the Loop ضروری است.

کارشناس هوش تجاری شرکت به‌پرداخت ملت افزود: در نهایت یک مدیر کسب‌وکار باید صحت گزارش را تایید کند و سپس نتیجه در اختیار سایر بخش‌ها قرار گیرد؛ بنابراین در بسیاری از فرآیندهای حساس، تصمیم نهایی همچنان باید تحت کنترل انسان باشد.

یکپارچگی ابزارها و امنیت پایدار؛ چشم‌انداز آینده

علی‌اکبری در پایان با اشاره به چشم‌انداز توسعه سیستم‌های عامل‌محور در سازمان‌ها گفت: آینده این سیستم‌ها را می‌توان در سه محور اصلی دنبال کرد؛ نخست، یکپارچگی ابزارهاست؛ به این معنا که ابزارهای مختلف عامل‌محور باید بتوانند در کنار یکدیگر فعالیت کنند و نتیجه مورد نیاز سازمان را ارائه دهند.

وی خودکارسازی هوشمند را دومین محور دانست و افزود: هدف این است که بخش بیشتری از فرآیندهای سازمانی با استفاده از عامل‌های هوشمند و با کمترین دخالت انسانی انجام شود.

علی‌اکبری در نهایت امنیت پایدار را سومین محور مهم توسعه این فناوری عنوان کرد و گفت: در کنار توسعه قابلیت‌های هوش مصنوعی و خودکارسازی فرآیندها، حفظ امنیت داده‌ها و زیرساخت‌ها باید همچنان به عنوان یکی از الزامات اصلی در صنعت بانکی و پرداخت مورد توجه قرار گیرد.