फ़ेसबुक एक ऐसा सॉफ़्टवेयर बनाने की कोशिश कर रहा है जो फेसबुक पर प्रकाशित होनेवाली सामग्रियों की जाँच कर सकेगा।
फ़ेसबुक संस्थापक मार्क ज़करबर्ग ने एक ख़ुले पत्र में कहा है कि ऐसे ऐलगॉरिदम या गणितीय प्रोग्राम बनाए जा रहे हैं जो पोस्ट्स में आतंकवाद, हिंसा, बुलिंग को पकड़ सकेंगे और यहाँ तक कि आत्महत्या को रोक सकेंगे।
5500 पन्नों के अपने पत्र में फ़ेसबुक के भविष्य पर चर्चा करते हुए ज़करबर्ग ने लिखा है कि अभी उनके यहाँ रोज़ाना प्रकाशित होनेवाले अरबों पोस्ट्स और संदेशों की जाँच करना नामुमकिन है।
उन्होंने कहा,”अब एक ऐसा सिस्टम बनाने की कोशिश हो रही है जो टेक्स्ट पढ़ सकेगा और तस्वीरों व वीडियो को देख सकेगा, और समझ सकेगा कि कहीं कुछ ख़तरनाक तो नहीं होने जा रहा।”
हालाँकि फ़ेसबुक प्रमुख का कहना है कि अभी ये योजना बिल्कुल शुरुआती दौर में है।उन्होंने कहा, अभी हम आर्टिफ़िशियल इंटेलिजेंस के ऐसे इस्तेमाल के बारे में सोच रहे हैं जो चरमपंथ से जुड़ी ख़बरों और चरमपंथ के प्रचार के बीच अंतर को पहचान सके।
फ़ेसबुक को 2014 में आलोचनाओं का सामना करना पड़ा था जब ऐसी ख़बरें आईं कि लंदन में एक ब्रिटिश सैनिक की हत्या करनेवालों में से एक हत्यारे ने महीनों पहले फ़ेसबुक पर अपने इरादे की जानकारी दे दी थी।
इंटरनेट पर सुरक्षा को लेकर आंदोलन करनेवाली एक चैरिटी संस्था ने फ़ेसबुक की इस योजना का स्वागत किया है।
इस चैरिटी ने इससे पहले फ़ेसबुक की आलोचना की थी कि वो अपनी वेबसाइट पर सिर क़लम करनेवाले वीडियो को बिना किसी चेतावनी के दिखाने दे रहा है।