Thursday, August 30, 2018

Generalization of rules in human/non-human language


וְהָיָה֙ כִּֽי־תָב֣וֹא אֶל־הָאָ֔רֶץ אֲשֶׁר֙ ה' אֱלֹקיךָ נֹתֵ֥ן לְךָ֖ נַחֲלָ֑ה וִֽירִשְׁתָּ֖הּ וְיָשַׁ֥בְתָּ בָּֽהּ׃
וְלָקַחְתָּ֞ מֵרֵאשִׁ֣ית ׀ כָּל־פְּרִ֣י הָאֲדָמָ֗ה אֲשֶׁ֨ר תָּבִ֧יא מֵֽאַרְצְךָ֛ אֲשֶׁ֨ר ה' אֱלֹקיךָ נֹתֵ֥ן לָ֖ךְ וְשַׂמְתָּ֣ בַטֶּ֑נֶא וְהָֽלַכְתָּ֙ אֶל־הַמָּק֔וֹם אֲשֶׁ֤ר יִבְחַר֙ ה' אֱלֹקיךָ לְשַׁכֵּ֥ן שְׁמ֖וֹ שָֽׁם׃
וּבָאתָ֙ אֶל־הַכֹּהֵ֔ן אֲשֶׁ֥ר יִהְיֶ֖ה בַּיָּמִ֣ים הָהֵ֑ם וְאָמַרְתָּ֣ אֵלָ֗יו הִגַּ֤דְתִּי הַיּוֹם֙ לַה' אֱלֹקיךָ כִּי־בָ֙אתִי֙ אֶל־הָאָ֔רֶץ אֲשֶׁ֨ר נִשְׁבַּ֧ע ה' לַאֲבֹתֵ֖ינוּ לָ֥תֶת לָֽנוּ׃
וְלָקַ֧ח הַכֹּהֵ֛ן הַטֶּ֖נֶא מִיָּדֶ֑ךָ וְהִ֨נִּיח֔וֹ לִפְנֵ֕י מִזְבַּ֖ח ה' אֱלֹקיךָ׃
וְעָנִ֨יתָ וְאָמַרְתָּ֜ לִפְנֵ֣י ׀ ה' אֱלֹקיךָ אֲרַמִּי֙ אֹבֵ֣ד אָבִ֔י וַיֵּ֣רֶד מִצְרַ֔יְמָה וַיָּ֥גָר שָׁ֖ם בִּמְתֵ֣י מְעָ֑ט וַֽיְהִי־שָׁ֕ם לְג֥וֹי גָּד֖וֹל עָצ֥וּם וָרָֽב׃
וַיָּרֵ֧עוּ אֹתָ֛נוּ הַמִּצְרִ֖ים וַיְעַנּ֑וּנוּ וַיִּתְּנ֥וּ עָלֵ֖ינוּ עֲבֹדָ֥ה קָשָֽׁה׃
וַנִּצְעַ֕ק אֶל־ה' אֱלֹקי אֲבֹתֵ֑ינוּ וַיִּשְׁמַ֤ע ה' אֶת־קֹלֵ֔נוּ וַיַּ֧רְא אֶת־עָנְיֵ֛נוּ וְאֶת־עֲמָלֵ֖נוּ וְאֶת־לַחֲצֵֽנוּ׃
וַיּוֹצִאֵ֤נוּ ה֙' מִמִּצְרַ֔יִם בְּיָ֤ד חֲזָקָה֙ וּבִזְרֹ֣עַ נְטוּיָ֔ה וּבְמֹרָ֖א גָּדֹ֑ל וּבְאֹת֖וֹת וּבְמֹפְתִֽים׃
וַיְבִאֵ֖נוּ אֶל־הַמָּק֣וֹם הַזֶּ֑ה וַיִּתֶּן־לָ֙נוּ֙ אֶת־הָאָ֣רֶץ הַזֹּ֔את אֶ֛רֶץ זָבַ֥ת חָלָ֖ב וּדְבָֽשׁ׃
וְעַתָּ֗ה הִנֵּ֤ה הֵבֵ֙אתִי֙ אֶת־רֵאשִׁית֙ פְּרִ֣י הָאֲדָמָ֔ה אֲשֶׁר־נָתַ֥תָּה לִּ֖י ה' וְהִנַּחְתּ֗וֹ לִפְנֵי֙ ה' אֱלֹקיךָ וְהִֽשְׁתַּחֲוִ֔יתָ לִפְנֵ֖י ה' אֱלֹקיךָ׃
וְשָׂמַחְתָּ֣ בְכָל־הַטּ֗וֹב אֲשֶׁ֧ר נָֽתַן־לְךָ֛ ה' אֱלֹקיךָ וּלְבֵיתֶ֑ךָ אַתָּה֙ וְהַלֵּוִ֔י וְהַגֵּ֖ר אֲשֶׁ֥ר בְּקִרְבֶּֽךָ׃ 
(ס)
כִּ֣י תְכַלֶּ֞ה לַ֠עְשֵׂר אֶת־כָּל־מַעְשַׂ֧ר תְּבוּאָתְךָ֛ בַּשָּׁנָ֥ה הַשְּׁלִישִׁ֖ת שְׁנַ֣ת הַֽמַּעֲשֵׂ֑ר וְנָתַתָּ֣ה לַלֵּוִ֗י לַגֵּר֙ לַיָּת֣וֹם וְלָֽאַלְמָנָ֔ה וְאָכְל֥וּ בִשְׁעָרֶ֖יךָ וְשָׂבֵֽעוּ׃
וְאָמַרְתָּ֡ לִפְנֵי֩ ה' אֱלֹקיךָ בִּעַ֧רְתִּי הַקֹּ֣דֶשׁ מִן־הַבַּ֗יִת וְגַ֨ם נְתַתִּ֤יו לַלֵּוִי֙ וְלַגֵּר֙ לַיָּת֣וֹם וְלָאַלְמָנָ֔ה כְּכָל־מִצְוָתְךָ֖ אֲשֶׁ֣ר צִוִּיתָ֑נִי לֹֽא־עָבַ֥רְתִּי מִמִּצְוֺתֶ֖יךָ וְלֹ֥א שָׁכָֽחְתִּי׃
לֹא־אָכַ֨לְתִּי בְאֹנִ֜י מִמֶּ֗נּוּ וְלֹא־בִעַ֤רְתִּי מִמֶּ֙נּוּ֙ בְּטָמֵ֔א וְלֹא־נָתַ֥תִּי מִמֶּ֖נּוּ לְמֵ֑ת שָׁמַ֗עְתִּי בְּקוֹל֙ ה' אֱלֹקי עָשִׂ֕יתִי כְּכֹ֖ל אֲשֶׁ֥ר צִוִּיתָֽנִי׃
הַשְׁקִיפָה֩ מִמְּע֨וֹן קָדְשְׁךָ֜ מִן־הַשָּׁמַ֗יִם וּבָרֵ֤ךְ אֶֽת־עַמְּךָ֙ אֶת־יִשְׂרָאֵ֔ל וְאֵת֙ הָאֲדָמָ֔ה אֲשֶׁ֥ר נָתַ֖תָּה לָ֑נוּ כַּאֲשֶׁ֤ר נִשְׁבַּ֙עְתָּ֙ לַאֲבֹתֵ֔ינוּ אֶ֛רֶץ זָבַ֥ת חָלָ֖ב וּדְבָֽשׁ׃ 
(ס)


משנה בכורים
אֵלּוּ מְבִיאִין וְלֹא קוֹרִין, הַגֵּר מֵבִיא וְאֵינוֹ קוֹרֵא, שֶׁאֵינוֹ יָכוֹל לוֹמַר אֲשֶׁר נִשְׁבַּע ה' לַאֲבוֹתֵינוּ לָתֵת לָנוּ (דברים כו)

משנה תורה, הלכות ביכורים ושאר מתנות כהונה שבגבולין
פרק ג'
מִצְוַת עֲשֵׂה לְהִתְוַדּוֹת בַּמִּקְדָּשׁ עַל הַבִּכּוּרִים בְּשָׁעָה שֶׁמְּבִיאָם. מַתְחִיל וְקוֹרֵא (דברים כו ג) "הִגַּדְתִּי הַיּוֹם לַה' אֱלֹקיךָ כִּי בָאתִי אֶל הָאָרֶץ" וְגוֹ' (דברים כו ה) "אֲרַמִּי אֹבֵד אָבִי" עַד שֶׁיִּגְמֹר כָּל הַפָּרָשָׁה עַד (דברים כו י) "אֲשֶׁר נָתַתָּ לִּי ה'". וְאֵין קוֹרִין אוֹתָהּ אֶלָּא בִּלְשׁוֹן הַקֹּדֶשׁ שֶׁנֶּאֱמַר (דברים כו ה) "וְעָנִיתָ וְאָמַרְתָּ". בַּלָּשׁוֹן הַזֹּאת:

פרק ד' הַגֵּר מֵבִיא וְקוֹרֵא שֶׁנֶּאֱמַר לְאַבְרָהָם (בראשית יז ה) "אַב הֲמוֹן גּוֹיִם נְתַתִּי"ךָ הֲרֵי הוּא אַב כָּל הָעוֹלָם כֻּלּוֹ שֶׁנִּכְנָסִין תַּחַת כַּנְפֵי שְׁכִינָה. וּלְאַבְרָהָם הָיְתָה הַשְּׁבוּעָה תְּחִלָּה שֶׁיִּירְשׁוּ בָּנָיו אֶת הָאָרֶץ. וְכֵן כֹּהֲנִים וּלְוִיִּם מְבִיאִין וְקוֹרִין מִפְּנֵי שֶׁיֵּשׁ לָהֶן עָרֵי מִגְרָשׁ:

כסף משנה
ומה שכתב ולאברהם היתה השבועה וכו'.כלומר אע''פ שאברהם אב לכל העולם לא נטלו הגרים חלק בארץ מפני שבתחילה קודם שנאמר לו כי אב המון גוים נתתיך היתה השבועה וכו' נמצא שלא זכו בה אלא בניו ממש:
משנה תורה, הלכות מעשר שני ונטע רבעי

י״א פרק

מִצְוַת עֲשֵׂה לְהִתְוַדּוֹת לִפְני ה' אַחַר שֶׁמּוֹצִיאִין כָּל הַמַּתָּנוֹת שֶׁבְּזֶרַע הָאָרֶץ וְזֶהוּ הַנִּקְרָא וִדּוּי מַעֲשֵׂר:

הלכה י"ז
יִשְׂרָאֵל וּמַמְזֵרִים מִתְוַדִּים. אֲבָל לֹא גֵּרִים וַעֲבָדִים מְשֻׁחְרָרִים מִפְּנֵי שֶׁאֵין לָהֶם חֵלֶק בָּאָרֶץ וַהֲרֵי הוּא אוֹמֵר (דברים כו טו) "וְאֶת הָאֲדָמָה אֲשֶׁר נָתַתָּ לָנוּ". כֹּהֲנִים וּלְוִיִּים מִתְוַדִּים שֶׁאַף עַל פִּי שֶׁלֹּא נָטְלוּ חֵלֶק בָּאָרֶץ יֵשׁ לָהֶם עָרֵי מִגְרָשׁ:



https://www.etzion.org.il/


הרמב"ם פוסק (הלכות מעשר שני פי"א הי"ז) שגר אינו יכול לומר וידוי מעשרות, שכן אינו יכול לומר "האדמה אשר נתתה לנו". מדוע הרמב"ם מתיר לגר לקרוא פרשת ביכורים ולומר "האדמה אשר נתתה לי", אך אינו מתיר לו לומר וידוי מעשרות, שבו מופיע כמעט אותו הנוסח? 


http://www.justice.gov.il/Units/MishpatIvri/Gilyonot/294.doc

יש לך לומר הכל כתקנם, ואל תשנה דבר. אלא כמו שיתפלל ויברך כל אזרח מישראל, כך ראוי לך לברך ולהתפללבין שהתפללת יחידי בין שהיית שליח צבור. ועיקר הדבר, שאברהם אבינו הוא שלימד כל העם, והשכילם והודיעם דת האמת וייחודו של הקב"ה, ובעט בעבודה זרה, והפר עבודתה, והכניס רבים תחת כנפי השכינה, ולימדם והורם, וציווה בניו ובני ביתו אחריו לשמור דרך ה', כמו שכתוב בתורה: "כי ידעתיו למען אשר יצוה את בניו ואת ביתו אחריו ושמרו דרך ה'" וגו' (בראשית יח, יט). לפיכך, כל מי שיתגייר עד סוף כל הדורות, וכל המייחד שמו של הקב"ה כמו שהוא כתוב בתורה, תלמידו של אברהם אבינו עליו השלום, ובני ביתו הם כולם, והוא החזיר אותם למוטב. כשם שהחזיר את אנשי דורו בפיו ובלימודו, כך החזיר כל העתידים להתגייר בצוואתו שציווה את בניו ואת בני ביתו אחריו. נמצא אברהם אבינו עליו השלום הוא אב לזרעו הכשרים ההולכים בדרכיו, ואב לתלמידיו וכל גר שיתגייר. לפיכך, יש לך לאמר "אלקינו ואלקי אבותינו", שאברהם עליו השלום הוא אביך, ויש לך לומר שהנחלת "את אבותינו", שלאברהם נתנה הארץ, שנאמר: "קום התהלך בארץ לארכה ולרחבה כי לך אתננה" (בראשית יג, יז). אבל "שהוצאתנו ממצרים" או "שעשית נסים לאבותינו", אם רצית לשנות ולומר "שהוצאת את ישראל ממצרים" ו"שעשית נסים עם ישראל", אמור. ואם לא שנית, אין בכך הפסד כלום, מאחר שנכנסת תחת כנפי השכינה ונלווית אליו, אין כאן הפרש בינינו ובינך. וכל הנסים שנעשו כאילו לנו ולך נעשו. הרי הוא אומר בישעיה: "ואל יאמר בן הנכר הנלוה אל ה' לאמר הבדל יבדילני ה' מעל עמו" וגו' (ישעיהו נו, ג) - אין שום הפרש כלל בינינו ובינך לכל דבר.



=-=-

רעיון חדש. עקב פרופ קנת׳ סמיט

דור של פיתוח קובע ועולה התכללות 
=--=-=-=--=

=-=-
letter to Prof. Kenny Smith

I am still thinking about your proposition, that the generation of compositional structures are not unique to humans, which in my mind is fundamental and if true should shake up the world of Linguistics as well as Machine Learning.

[As a side note, you mentioned two types constraints (description length and communicability)  in Information Theory Shannon's complexity metric which measures desc. length is more popular but there is also LZ complexity which provides a more linguistic/compostional/dictionary based measure.]

Please forgive me, but I feel like I need to argue against your proposition.  The basic argument is that the system is outside the Baboons and hence the Human engineers that created the system have added the elements necessary for the generation of compostional structure.

Since, it seems that the Baboons where not constrained by a need to communicate, only by the minimum description length (or ease of key press), hence, it could be that the structure emerges due to physical constraints, spatial or temporal.

This reminds me of the problem with the Turing test.  Who is asking the questions?  If a human asks the questions that the machines answering the questions are part of joint system with humans, hence they are not intelligent on their own.

Similarly, the structure evolves because of the constraints that we humans provide into the system.  True the Baboons are not human, but you created a constraint where there exists artificial communication between Baboons.  In nature, a Baboon would need to perform an action, lets say pick a banana in a particular way, with their left index finger, and then communicate the results of that particular action to another Baboon.

[recent addition]
The current experiment constrains the medium of communication which in turn provides for the emergence of structure.  Yes, structure does emerge with human intelligence, but that is not a novel statement.  Nature is rife with structure.  However, structure can only emerge with a constraint on resources.  Humans are uniquely capable of creating such a constraint when communicating messages.

Actually a pretty weak difference, so if animals needed to shorten their communication and yet retain differentiation they would create language?

I believe they would not have the white-matter to do that, even if they tried.

=-=-= second letter:

Now reading your article: https://psyarxiv.com/4bx2g/ "How culture and biology interact to shape language and the language faculty"

Seems that you have already highlighted this point, you write:
While these various capacities in non-humans seem limited in comparison to the corresponding human traits, they suggest that the last common ancestor of humans and our closest non-linguistic relatives may have had some competence in all of the requisite areas; in other words, evolution may only be required to elaborate existing capacities in the ancestral population, rather than create them de novo. We can also scaffold experimental cultural systems in other animals and see how those cultural systems evolve. We found that systematically-structured behaviours evolved through transmission in a captive population of baboons (Claidi`ere, Smith, Kirby, & Fagot, 2014); when we provided a behaviour that could develop structure (sets of visual patterns), and facilitated transmission of these behaviours from animal to animal, the perceptual and cognitive biases of baboons were sufficient to drive the evolution of structured behaviours. This suggests that, if evolution produced the capacity for cultural transmission of communicative behaviours in our ancestors, interesting types of structure might have developed fairly rapidly even with minimal changes to the rest of the cognitive architecture.

Which I take to mean that currently the animal kingdom does not provide the capacity for cultural transmission of communicative behaviours.

I am thinking that Humans don't necessarily need the capacity to intuit intention in communication, rather they need the ability to abstract and create compositional languages.

=-=-=-
Baboon experiments:
Cultural evolution of systematically structured behaviour in a non-human primate
http://rspb.royalsocietypublishing.org/content/royprsb/281/1797/20141541.full.pdf

=-=--
Kenny Smith, The University of Edinburgh - Colloquium - May 22 , 2018

https://www.youtube.com/watch?v=NjBtagmAi40


Language Learning, Language Use, and The Evolution of Linguistic Structure  Language is a product of learning in individuals, and universal structural features of language presumably reflect properties of the way in which we learn. But language is not necessarily a direct reflection of properties of individual learners: languages are culturally-transmitted systems, which persist in populations via a repeated cycle of learning and use, where learners learn from linguistic data which represents the communicative behaviour of other individuals who learnt their language in the same way. Languages evolve as a result of their cultural transmission, and are therefore the product of a potentially complex interplay between the biases of human language learners, the communicative functions which language serves, and the ways in which languages are transmitted in populations. In this talk I will present a series of experiments, based around artificial language learning, dyadic interaction and iterated learning paradigms, which allow us to explore the relationship between learning and use in shaping linguistic structure; I will finish with an experimental study looking at cultural evolution in non-human primates, which suggests that systematic structure may be an inevitable outcome of cultural transmission, rather than a reflection of uniquely human learning biases.

from: 


from: 
Cultural evolution of systematically structure behaviour in a non-human primate