Pages

Thursday, September 21, 2017

Can an Artificial Intelligence generate Sanskrit Mantra?

Can an Artificial Intelligence produce Sanskrit Mantras

Below is the result of training an Artificial Intelligence (AI) on a small 200kb data set on Sanskrit Durga mantras from Sanskrit Documents.
https://sanskritdocuments.org/doc_devii/

Configuration
- Recurrent Neural Network
- 2 Hidden Layers / 128 Neurons
- Input Size - 32 [one-hot]

Output after 1.5 hours training

OM shiShTAyai namaH |
OM gRRihItAyutahastakaryai namaH |
OM jumpaTA lalitAlavimohitAyai namaH |
OM haMsamantrabhakShivahyAyai namaH |
OM upAsyAyai namaH |
OM haMsabIjAM mahAsinyanAshinI |
phAlalAyai namaH |
OM makodhAyai namaH |
OM santAnAM mahAmogiH sahA.a.armiNyai namaH |

Observations:
a. It recognizes letters, words and sentences.
b. It has recognized the pattern OM X namaH
c. It has recognized the dative (chaturthi vibhakti) before namaH (ex: upAsyAyai)
d. it has generated new words - which are meaningless but Sanskrit sounding and semantically/ grammatically/ structurally quite correct
e. Larger dataset and more training is required.

Note: I had earlier used a Markov chain generator - but RNN in my opinion is much superior. Markov generators being statistical can do only so much.

Question: Can an Artificial Intelligence generate Sanskrit Mantra?

After 1.5 hours it produces Sanskrit like Mantra. Is it not likely that after sufficient training one specific configuration of weights could mimic "divine inspiration" / "Rishi state" and render meaningful inspired mantras? It is an intriguing possibility.

Image: http://www.extremetech.com/wp-content/uploads/2015/07/neural-net-head.jpg

Monday, September 11, 2017

Recurrent Neural Network Training Sanskrit 1

Observations
1. Has begun to recognize letters
2. Recognizes basic structures - like ending with |, use of space
3. Recognizes the structure OM ... namaH |
4. Spelling mistakes persists.
5. Developing ability to generate Sanskrit-like words.

epoch: 1.42 / perplexity: 8.91
ॐ बेरंस्केषदम् अर्भ्यसवनकोद्षतिं वै कर्क्रः मोणं तु स्थानलां चाच्छ ।
चालनं क्वीड्तु ते नमो ग्रहीनेशाः ।
नमः ॥
पौलमुस्तशरो घूधाकताः स्थराइ तुनमि द्वेभिरन्वं धामी कोशामाभिगनक्ष्यस्पश्व
विर्दच्छितिचजाच

epoch: 2.02 / perplexity: 9.54
वाः पार्तः सज्वम् राभातं समन्धमेणाइर्ताः ।
तेन पङ्गां शीने राभारेप्तिप्रविवित्ययां सुखं सण्डो दडेत् ।
घथनीगि शानस्वनः शवर्णाक्षणर्वे मे प्रभगातु उपरैः ॥
आमाणमधितम् फूर्णोशत इतश्चाइ राणापङ्गस ।
- अयपिनेप्रद्धब्वितां मु वा सान्यवता म्रिन्त्र ईषाधादारित्यरानि तु परूपो व्ऱिवर्तैः ॥

epoch: 2.40 / perplexity: 5.62
चरीन्तृ व व्यमायक्ववक्रे तेऽवम्यम् ॥
ॐ हा वतुःत्यं व्वाङ्कीन्मालांंसुनभार्मदद्पूर्ण वरशानृजे कृधीपलरिणा वीनाः पूर्वं वृषां
एतपनं कृष्टाकरसिन्न्वैर्वर्तथेइ मनथः ॥
दूवने तं गजापरोध वायिन्तु याघ्यलाता ।
त्रवीषतुपर्णः सहारदेवरास्तर्वनुशल्धाः ।

एपोच्: २।५६ / पेर्प्लेक्षित्य्: ८।६१
एषामभिशको वठिमाराणाश्या
शिरुश्च पज्ञं सा क्षेप्षुवततहको तु च क्षण्य न च्च
स्दृताशीन्यण्डोऽतरोडमापर्मन्तयन् च रविग्रे व्ञः
वीतर्मभङ्गितिश्च शिजाशितसक्षेणायाव्य वनो गुत्रिव, च च तथा पतिपररीलद्विजा न्येत्रः
इन्दुवातारे च वाश्च हिदग्धादे नवारीसो च रमाण्पिमधानकाम्प्रप्रमिते ।

epoch: 2.56 / perplexity: 8.61
ततिस्यं प्रकृषविशृतस्ता शच्छ्नूद्ग्रष्ठानिप्राणस्रस्थः करः ॥
पपङ्घं हिरानि द्रुषण कलकारे ततारितिनो उपनेत्, कीकोऽशं सर्वत मानीरादाराजीन्श्रवक्षालार
शर्थुरुरुणह्र पतं किकन्रवित्तारहस्तत्नहनीयः ॥
भवेन्वाधृसोनसम्भपताः स्ब्रान्डथिशस्त्वास्तथी दभीर्स्थं हः ॥
निरेति शलासधानां

epoch: 11.18 / perplexity: 9.05
ॐ गोणं प्रण्यकनो दशीऽवारज्यतं ने नमः ।
चार्य मभ्रकृष्टलाणमेक्यं सान्धं ।अवं घुजरसमं ते ।
ॐ वस्तणिरूपरवुषिर्मणितग्व्यशोथां सदन्भपुश्मोन्मशत्र नमः ।
स्रोयजानं क्ऱ्षारात् श्रोसनं ॥
ॐ अशयं ॐ ददिशस्याजांकरशयकारं विसीश्येशलस्य नमः ।

epoch: 16.19 / perplexity: 8.21
तदेवं वरीलान् वा निलीनवेत्,, न रूपं वारोहवत्धिसलादैव न्रयः श्र्नेत्रप्रभीदायष्टेः साहिथे
ॐ मन्तायाथज्जोभायावुवान्निनिना वस्येत्रवृत्यास्मने नमः ।
च श्चितस्थवर्ण्टयाद् अहलक्मत्सुजानिक्रिदिह निलं मध्यां समात् ।
ब्रिहागयेत्
वरण सम्कुद्रियाश्चैव शाकार्मधिश्वतः शुर्वित्तं कलारूपान्यक ॥

epoch: 17.40 / perplexity: 10.85
न विष्णिकरं रसितया तस्मन्हितूती दाद्ऽफङ्गः ॥
शृष्च सर्वमिष्येषद्यान्पतस्पोत्रहर्भा यबिनृतीपरः ।
रोषरामवेगवस्तु देवने रात्रः ।
जसां मभक्षैहत्नद्यमः
तत्र वित्यः स्थाभव्येषु यान्रिरष्टिवेदाः ।

epoch: 20.14 / perplexity: 7.71
यथा पर्थां साहापक्षीररदु ।
एतश्वे इति तच्छजे खास्वास्निजिना ताम्यारसराक्थां अलृते, ग्ख्यज्ञव्यं पतः ।
अन्यकाशं व्याश्च देवमस्तस्मानं परीव ।
के नतं व्येणदनम् अन्तु वा भहिताण्यादतशेन्यमा कुरानि उपान्तदः ॥
अनुन्त्वलां त्रन्वाणान्यान्यादेच्छात्माय । सह विलक्षानां ।

epoch: 21.00 / perplexity: 7.05
शघ्मा पाभ्यणिययेत् परकरानुर्वाऽकां, कलधुद्वं ममोरी ।
कर्मः शीद्मास्थन्तघोत्रिक्त्यद्रीयां याकनहृत्तो निष्णं
तत्काशहदः प्रतुर्जष्ठेत्, प्रनोज्ञा सोवितां अर्गृती कः सूरधारकोऽपरौ ॥
पुरुत नमो गृहादार्ष्ट्रयातमामसंसुन्स्वशलृत्ती
द्वर्मगारान्रसन्धीने समारिंस्तथानृकः

See: http://cs.stanford.edu/people/karpathy/recurrentjs/