AMlet, RAMlet and GAMlet: Automatic Nonlinear Fitting of Additive

We illustrate the finite sample property with a Gaussian and a Poisson simulation. Key Words: (Generalized) Additive Models; Convex Program- ming; Data ...
2MB taille 2 téléchargements 215 vues
          ! "#!$% '&()*+!$, ./+0  1$2!34 563*7 ' %$2&+ '!892:; 023 UWV+XZY[Y%\^]`_O]/acbHdf?Ae/@CghY/BEijXkD2ijlmFHinGJ]pI oMqsKMLNrt][BOu[I%vOP9gwoxQRdZo`D2yHSTz|{UWV+XkiZ}x]/a~dbHg€_ H ‚„ƒ Œ gfXkH]/aŽY/Xkizs…tI4oMq‘†CFˆbx‡9Y[BhvO‰ŠXkgOL%yHiM‹ oxgh{ Œ*’ U ’”“•’

š¬x˜²¡x—˜šŸc¡ž–$ ~ºR©°š—j¨w£•˜š™œ Ž ~¹›ž¡xŸªš¢šŸJŸM¤¶¡ž /—ª¡x¦»·¡ž¢4¼¥›x£¯ž /ŸMŸŠ©°¤¥ /Ÿ`™´›§—±¦[¤°Ÿª¨w˜²¤™R©°Ÿª˜š© ~µc«­¤ ~¬ž¦/š®²©^£%™œŸª¤°¡[ŸM¯ž½±¤¦[Ÿ9¯x£|¦!µª—·¢9¦/¤°™œ˜š¯ž—w›§ŸŠ›ž¦º©°¡žŸc¦Ÿª—¦|¡Ÿª¢2¡¤¶—+¤°—jŸc¤°¦~¢R ~«·¤¤°˜¾ /¦A—±¢ž¤°Ÿ`˜š¢žµc—±˜¸ ~¤°¤°˜²O˜²™R¹ /ŸR ~¡x¤™´¢2ŸJ¦|µM¡ž¦¢|¦/™AŸc¡|š—³³ ›ž˜²¤¿¬žµª¤° ~ [¡¤°˜²¦ÂH¡xŸJ ~ŸªwÃ4›žµM©°¦/˜šŸª›H¡Ÿª¤©š¤£9˜šŸcµM—A¦™œ¦~«¿›ž¤°¬|¯ž¤Ÿ%Ÿ`¢9À¬§ Ž—j˜š¹¡žŸcº´—¯ž¤©°¯ž˜²¡žŸÁ'žš—°¦|µªµ¶ [Á9¤¤µMŸc¦!©¦›ž©°š¦~¢|¤R˜š¡x— ~™´¤Ÿ^¦!©°¦/Ÿª¤¾¯ž [ŸcĞ©´ ~¤ /˜š¡x¦/¢¡ ¦—™œ›|¤¦˜š™œ¦/¤˜²¯žÅ`˜š [¡ž¤º%˜š¦/›x¡. /¤©°Ÿc /µ¶™´¯xŸª¡ž¤˜šŸcÆ©°¬ž—cŸÇE»—j¬x–:˜¸¤¶ ~©Âž¬žššŸ´Ÿ «­«­¦/¦/©Š©´¢ž¤ ~¯ž¤°Ÿ%  ~™œ¬ž¤˜²¡ž¦/™R˜š¡žº2 ~¤˜¾¦/µ «t—¾ ~Ÿª©°šŸcº/µMŸœ¤˜š¢ž¦/ [¡.¤¶ ¦/«¿—ŸM¤¤¶¯ž—ªŸ Ç ˜¾—·¢|¼¥Ÿª©°¯ž˜š¹/Ÿ*Ÿc¨w¢E Ž» ¹ŸªšŸM¤j³ÈÂx —jŸ`¢A™œŸª¤¯ž¦|¢4˜¾—€¤¯žŸc¡4ŸMÄ!¤Ÿc¡x¢|Ÿ`¢R¤¦AŸc—j¤˜š™R [¤Ÿ*º/Ÿc¡žŸª©¶ ~²³ ˜š©°Åª˜¸¤°Ÿ`¯ž¢2™Ë /¢ž˜¾—+¢|˜²›ž¤˜š©°¹/¦/ŸÉ›H™´¦—¦|Ÿc¢|¢•Ÿc¤š—c¦2»^—–ʦ/š¹/›žŸ´©˜š¤™R¯x ~Ÿ4²³ÈµM¢ž¦/¬x©° ~©°ŸcE—š›§¦/¦º/¡x³Z§¢| ~˜š¡ž©°©º˜šŸªµª©·¦/˜š¡!¡¹/¤ŸªŸªÄ•©°˜š¦/›ž©¿©°¦/›Hº¦/©°˜š /¡™´¤*™œ ~šº/˜š¡ž¦/º ³ ›ž—™œ©°¦/¦Âx¦/²¤Ÿc¯ž™˜š¡ž»+º´Ì¥›x / ~—©¶Ÿc ~¢Í™œ¦/Ÿª¡¤Ÿª /©¶¡—w˜š —·—j¢ž£!Ÿª™œ©°˜²›|¹¤Ÿc¦/¢Î¤Ç|˜¾µÉŸc¡x / ~¡xž ~šš˜ £|¡ž—jºÉ˜¾—ª¤°Çߞ  Ÿ+©Ÿc¬x—j²¤ŸÉ˜š™R«­¦/ [©+¤°¦/—j©wŸc²¤Ÿ`¦Rµn¤°ÂH˜²¡žŸJº9«­¬ž¤²¯žš£Ÿ  / R¬|Ф¦ ~™œ¬§— ~—¤˜šŸ` /¢É¡ ˜š /¡R¡x›ž¢%©¶ / ´µnф¤°˜š¦µª˜šŸ/—°»h—¦/À¡ Ÿ·—˜š˜š™É²¬x¬ž—j¾¤ [©¶¤° [˜²¤°¦Ÿ¥¡E¤» ¯žŸ¿Ïx¡ž˜²¤Ÿ¿—° ~™œ›žšŸ·›ž©¦›§Ÿc©j¤±£É¨·˜¸¤°¯ ™œ¯žÒ2¦!˜šÓ¦|¡žÔ֢κxàœàÎÕÊå·â*Ÿc×x ~šØ[ ~¤° ãÙhÄ| ~Ú/™œ¤Ûݘš¦/˜²¡x¡ÍÜ ÐJ˜²¡ž /Ÿcº§²¡žºàœŸª¦/©¶äk©°¡ ~˜¸¤°¤°š¯ž˜ ŸªÅª™%©°Ÿc˜²¢§¦னjÞ ç!³È›H˜š–*º/¦/¡§¢ž˜š¡ ~¢|¤2m˜²¤¢ž˜š ~¹/ŸªšŸp¡žº/¦¦ß2©˜š—˜²¤˜²¦|¡x¯x¢|ºx™ŸcàΝšà´—cè¿àRå·¡žát˜šŸª¹/º¦Ÿc¬ž¡!©°¾¹/—° ~ ~ŸM©°ÄCm˜²Åc—jŸc™œÑ€¢©¦!¦¦~æEº/¤°˜š©¶¯žÁ/ ~˜²Ÿª™´¡xš˜²º ³³ ›x /©° /™œŸM¤Ÿc©cà!À' Ž¹/Ÿc²Ÿª¤c» ô`ð ýé°ð êhªë`þ ëŽìZí±îZî|ï²|ðnìž÷ ŽñjîÈðn÷¶ìòô`ìZí±ôŽîZínó~þ/ðnÿ ôŽOüë`íjø ô`±ñjí±ínì õx÷¶öhô`ëí±ó[÷¶§ìøZù¿ù·÷¶í±ü ¾ôMõxøxÿ ð¶ï/ú+n÷¶÷°üýôøZûŽÿcí±÷¶ù¿ìZë÷°øòüýhñ±îí±þªó ÿ OüñÈýûîòî [í±ëŽí±ìZ÷ ”ôŽîøZü ø `øòímð¶ï |í±ñÈû

   

  



   #



 

 !"











 



À Ÿ+:ϧ©°Ü—j¤^©°Ÿcµª /²E¤ ¯žÞ!ŸÉ„™—j´¤° /Ÿ`¡x /¢ž—¬ž /©°©°˜²¢¡žº©°Ÿª 4º/©°«­Ÿc¬x—°¡x—˜²µn¦¤°¡9˜²¦¡#›ž©°"¦/žÜ!$šÞJŸª™% [¤&»¥% –¿¹[š ~¦|˜š¾µª ~ ~ž¤˜šš¦/ŸŠ¡x˜¾—(—^' R— ŸM¤^¦/«„ ©°' Ÿc— ›H¦/—°¡x ~—™´Ÿc—³ ¤›ž¬ž¯ž²™œŸ`Ÿ¢%¡s¤«­©¶¹/©° ~¦/Ÿc¡xµM™)—¤›H¦ 4¦©R—¢|¦~ŸÍ˜¾«2—±¦~¤°1Ë«+©˜šÂž¤°Ÿª¯ž¬|Ä|Ÿ¤°›ž˜²¦š¹ /¡ Ÿc¡xµM)+ [¤¤°¦/* ¦/©,©°»^£.' ¼¥¹[௞ ~ŸŠ«­©°¦/˜š¬x /©¡xž˜²¢|š¡§ŸcŸª—±—c©¶¤¶»C—° ~µM¡x¦/Ì¥µª©° /Ÿ-ŸŠ—¢|Ÿc' ¢#Ÿc¡ž¦/¦~ ¡ã¤°Ÿc—^¤Ü ¯ž'  4ŸÍ ¹/¤Ÿc©¶µM ~¤˜š¦¡ž ©^˜²'/¡x ~º..€¡xÞ0¢—J˜ /' ™´¾—4›x¤°¢|²¯žŸ4ŸcŸ'¡ž3 ¦~µM¤°¦/Ÿc ²—³  [ ~5 ¤¡xÜ Ÿ¢'67«­¬x¤° ¯ž'¡xŸµn6 ¤°¡ž˜²9Þ ¦8¦/-¡ 6;˜¾—j: £'" 90ܙœ=>$ =>Þw= =>Ä = < . ( (Y a:  ( (Y ( (Y æEŸM¤¤˜š¡žº \ I\ 1 m   ~¡§¢9¬x—˜š¡žºœ¤¯žŸ« µn¤¥¤¯§ [¤ \ —° [¤°˜š—jÏxŸc— Ü Þ€£!˜šŸª¾¢ž— . v  Ü \ 1  [Þ BDC 1 ( \ 1  ( Y  Ü \ S [Þ BDC 1 ( \ S ( Y B 1 B 1 a :  ( Ü \ 1S Þ a ( Y m m Y Y Üw Þ  Ü \ S [Þ BDC 1 ( \ S ( Y B 1 B 1 1 ( \ S ( Y  Y ¤¨·¯ž¯žŸŠŸª©° /Ÿf§¤¦[¯x¹ŸWŸ*š˜š ¡ž—±Ÿc¤mƘ²¬x¡ž /Ÿ`²Æ˜ ¤±¬x£4 ~š£!˜¸¤±˜š£JŸª¾¢ž¬x——Ÿc— xÜ w Þn»hç|˜²¡xµªŸ \ S —¦/š¹/Ÿ`— Ü ÞΗj¦¿¤¯x ~¤  Ü \ S Þ  Ü \ 1 m  ÞMÇ Üw Þ ( \ 1 m  ( YY ( \ S ( YY B Ü 1 C 1 Þ Ü BD1 ( \ S ( Y Þ  ¯x›§¼¥ /¦¯ž—+˜²˜š¡—wµª¤ ¤°²¬x\¦/! —jº¤—°ŸMŸc [¤©+¤°¯x˜šŸª›§—j©·Ïx¦Ÿc˜²¨·¡— ˜²¤¶¤—ª¯ »4Ü Ìw£w ÞtÜx˜²w ™œ›žÞJš /˜ Ÿc¡x—¥¢ ¤°¯x5  [C ¤1 8 ( \ 1 m H  Ç ( Y5 ˜¾1—¥8 ÂH¦/¬ž¡xH ¢žÇmŸc¨t¢%ŸR /(——Ÿª% Ÿ´¤¯§ [ ¤ÉǞ ~—j¡!¦ £•5 µª\ ²¬§1 —±m ¤° Ÿª8©  Ü \ ! Þ  Ü \ S Þ  

,



,

*

*

*

*



  









,







/

#





1

*

,

*

/*

,

,

+$'&

)( +*

# #

"

"

"

"

, ,





"

#

,

"

#

$

,

w;w

$

,



¼¥¯¬§— \ ! ˜š—^ ´—¦/š¬|¤°˜²¦¡9¤°¦ Ü ÞM»Wß2¦/©°Ÿª¦[¹Ÿª©`Ç Üxw Þt /¡x¢ Ü w Þw£!˜²Ÿcš¢ž—¥˜š¡¤¯žŸ+š˜ ™´˜²¤ ( \ ! ( YY ( \ S ( YY  ˜š˜²ç!™œ—t˜²¡§ Š›žµMšµMŸ ˜²šŸ`¦\— —S Ÿc\ ! ¢œ˜¾—t µM¤¦¯ž\ ¡!ŸJS¹/»¿ŸM¬žÄœ¡ž¼¥˜¾—j¯žÆŸª¬ž˜š¤c—*Ÿ*Ç!—j—j™œ¯x¦É¦[˜š˜¸¡ž¨¿¤€˜š—¥¯§™É /¤¬ž¯x—€™  ~ Š¤ ¬ž5Y ¡ž\ ˜¾¡žÆ1 ¦¬x©Ÿ¿™ 8ɛ§—¦˜¾—^¦/˜²¡š R¬|¤w¤ÂH¨·˜š¦/¦/¯ž¡R¬x¦¡x¤°—¦¢|Ÿ Ÿc Ü ¢•Y Þ —j¡žŸ`ܦƤ°©¯ž¬x™ Ÿ+Ÿª¡x˜š—j—€µª¦Ÿ+²™œ¬|¦~¤°˜²«W¡ž˜²¦˜š›H¡9™É¦/¬x—˜š¡ŸM™R¤¥¤¶—¿ÞM¦~Ǩ·« ¤¯ž˜²Ü ¤˜¾¯ —Þ \ S  —¥˜¸¤¶—·¦/¡x²£9µª²¬§—±¤°Ÿª©·›H¦/˜š¡¤`» ¿Ÿc¡xµMŸ 5 \ m 1  8 \ S » m 



#

,







  

q 

  2

 

#   G    ;

  



? !

žµM¦/¦/™œ©´™œ—j˜š™œ¦/¡R›žš—˜ ™œµª˜¸¦¤±£p¦/¤ ~¯ž¡§˜š¡ž¢'ºŠ¨·›§˜¸ ~¤°©¶¯ž ~¦/™œ¬|¤´ŸM¤°™ÉŸª© ¬x µ¶a¯ ²¦R——+«­¦/¦/©t«¿ /º/²Ÿc¡ž Ÿª©¶  ~š˜¸¤±£Çm¨w Ÿ91œµª»h¦/À¡x—Ÿ*˜š¢ž¨·Ÿª©Š˜š—¯œ¤°¯ž¤Ÿ ¦Šµc— /¦/—š¹/ŸRŸ¥¦~¤°«^¯ž Ÿ ¤±¨t¦/³ZšŸª¹Ÿªž¦›|¤˜š™œ˜²Å` [¤˜š¦/¡9›ž©¦žšŸª™ Ü Þnǘò» Ÿ/»šÇÏx¡x¢œ¤°¯žŸJ™´˜š¡ž˜š™É¬ž™  Y ¡ž¦/©°™ —¦/š¬|¤°˜²¦¡R¤¦ ™œ˜š¡ T ! Ü ! \ à  [Þ B" ( < (  Üw Þ % : k$& < ' n ÀŸc /ŸŠµ¶¯•µª¦/˜¸¤°¡xŸª—©¶˜š [¢ž¤Ÿª˜š©·¦/¡O Aǧ—¨w¦/šŸ´¬|¤° /˜²›ž¦›ž¡š£2 /›ž 4›ž›ž©°¦©° /˜²™Rµ¶¯9 /¸Âx³k¢| /¬x—Ÿc /¢ m˜š¦/¡¡¤Ÿª¼¥©°˜š˜²¦/Á!©^¯ž¦›H¡ž¦/¦[˜š¡¹R¤*©™œŸcº/ŸM¬ž¤°¾¯ž ~¦|©°¢Í˜šÅc [¤°¤°¦ ˜²¦—¡4¦/š¨·¹/ŸÉ¯žŸc /©›žŸc›žÂ©°£¦ŽÇžÄ| [˜¸¤³ ™œ ~¤Ÿc²£9 œ©°Ÿªº¬ž¾ ~©°˜²ÅcŸc¢R›ž©°¦/Âx²Ÿc™ ¦~«m¤¯žŸ«­¦©™ Ü C o H Þ ™% : œ˜²¡ < ' n T ! Ü ! \ à  Þ B) ( < (  B wC ( \ ( YY  Ü HÞ ¼O—j¦¦œ²¬|Ÿª¤°¡§˜²¦—j¬ž¡R©° /Ÿ+µªµMµª¦¬ž¡©¶¹ /ŸªµM©°£Éº/¤Ÿc¦¡x²µMŸcŸ©° /Ç ¡xC^k$& µM˜šŸ¥—·˜¾¢|—€Ÿ`¢|µMŸ`©°ŸcµM ©°Ÿc—j /Ÿ`¢R—Ÿc¤¢A¦[¤°¨¥¦[ ~¨w©¶ /¢ž©°—w¢žÅª—„ŸcÅc©Ÿª¦R©°¦Š ~«”—j¤¬žŸª©·ÃRŸ`µª /˜²Ÿcµ¶¡¯¤˜¸š¤°£ÉŸª«©¶  [—±¤°¤€˜²¦©°¡Ÿª¾ / [¡x¤°˜²¢4¹Ÿw¤°¯ž¤¦Ÿ ¨tC^¢|ŸªŸÉ ~©°¡§˜² ¹[¢— ~—¤¤¬ž˜š¯ž¹/™œŸŠŸœŸ+š˜š¦/—+«­º/¦ /³Z©J§²¨¥ / ~²©° Ž©£|˜š Ÿª—J©¥›§›x¦ /—j©°˜²¤ /˜š™´¹/ŸŸª ÇO¤% Ÿc ~© ¡x¤°¢ ¯x»¥ [˜²¤°¤–^—J—^T Ïx˜²!©¶¡Í!Ü —j$ ¤Éà ç| ¢| /6 ©°ŸªÞ¿¢|©°˜²£˜š¹[—¿Ç§ ~–^¤¤±¨·˜š¡¹/˜šŸA¤°µª¦/ŸA¤¡žŸª¢|˜¾¡§ /˜ ¢ž¢žH—˜šŸc—c©Çx¤Ÿce¦  ~¡¡§¤T ˜¾¢2 ~ ž¼·šŸ/—j /ŸcÇH¡x¡ž˜¸¤¶e¢ º —*BÜ —w;Ÿc H;µªH¦/¡x [Þn¢ ¤ Ç ¤«­¦/¯ž©AŸ¤²¯žŸªŸ2«”¤ Р~ ~¡x¬x¢ —°—©°˜š˜š /º/¡¯¤9 ~¡xŸª¡§¢p¢|¤›§¯ž¦Ÿ˜²¡ŸM¤¶Ä|—4›H¦~¦/«+¡žŸc˜²¤°¡— ¤°˜š¢| /¦/w™R¢ž˜š ~—j˜š¤¡ ©°˜²Âx ¬|6 ¤»˜š¦/¡E¼¥Çt¯ž /˜¾—A—9¨t /—°Ÿc—²¬ž¥™œ /—É›|¤«­˜š¦/¦/©A¡s¤¯ž˜¾—9Ÿ%—°Ñ„ [¤°¦/˜š˜¾—j—°Ïx—j¦Ÿc¢¡ ¢|˜š—j¤m©°˜š˜šÂž©¶—±¬|¤`¤Ç˜š¦/¨w¡%Ÿ^¨·¢|Ÿ`˜²¤—¯%µª©›H˜šÂ§¦Ÿ^—˜¸¯ž¤°˜²¦[¹¨Ÿµª¤°¦/¦É¬ž ~¡›x¤¶›ž—ª²» £R ›ž©°˜š™œ /¸³k¢|¬x /x˜š¡¤Ÿª©°˜š¦/©W›H¦/˜š¡¤€™œŸM¤¯x¦!¢R¤¦A—¦/š¹/Ÿ ›žÜ ©H¦Þnž» šŸªž™ ¦²šÜ ¦[¨·H Þw˜š¡ž ºŠ— ¤°¯žŸ+¢|Ÿª©°˜²¹[ ~¤˜š¦/¡9˜š¡2ç!ŸcµM¤˜š¦/¡ » w ¦/¡    ªÇ|¨tŸJ©Ÿc¨·©˜²¤Ÿ*¤¯xŸJ›x©˜š™R ~ C C  < ™œ: ˜²¡ < ' n <  ™R  [<  Ä T ! Ü  à  Þ B  ( (  B  Ü  T ! \ Þ B Ü T Þ B w ( ( Y B w ( ( Y  < < 9 Y % k$& Y äk¡¤°Ÿª©¶µ¶¯x ~¡xº/˜š¡žº ™R [ Ä A /¡x ¢ j™œ˜² ¡ Aº˜²¹Ÿc—w¤°¯žŸŠ¢|¬x /Î›ž©¦žšŸª™ ™R  ~<  Ä Ü  à  UÞ T w C ( ! ^  ( YY T w C ( ( YY ¨·˜²¤¯ T   !  B      

#

# 



5

5

-

#





5



1

5

$

#

#

w

#

5

,

,

#

¨·›ž©¯ž¦ŸªÂž©°šŸ Ÿª™ ©Ÿ`˜š¢|—œ¬x¤°µM¯žŸ`ŸÍ—Τ°¢|¦¿¦¤™œ¯x /Ÿt˜²¢|¡ã¬x¦~ /« /›ž ©°0Ü ¦/$ Âxà  ²ŸcÞM™ » Ü ¿ÞΦ/¦/¤˜¾«§µMç|Ÿ% ~¤°©¶¯x¢| [£¤`Ç`Ç¥–^ ¡—/¤°¦/C ¡ž˜¾ /¢ž˜š—cH Ç[m  ~Çt¡x¤°¢Š¯ž¼·ŸÍ— ~Ÿª¡xÂHº¦[¹/Ü Ÿ%w;H;¢|H ¬x /Þn» ¼¥¯žŸŠµM¦©©°Ÿc—›§¦¡x¢|˜š¡žºÉš¦/º/³Z§ ~©°©˜šŸª©¥—j¬xž›ž©°¦/žšŸª™ ˜¾— ™´