administrators

Prive

Berichten

  • RE: Reinforcement Learning en dromen PWS

    Beste Lisa Verbunt ,

    Wat leuk dat jullie zo'n originele onderzoeksvraag hebben! Dat is eens iets nieuws dat ik nog niet eerder heb gezien.
    Ik vind het terrein dat jullie gaan onderzoeken super interessant. Ik denk vooral dat het waardevol is (na de onderzoeksvraag) duidelijk te hebben afgebakend wat je precies gaat onderzoeken, omdat zowel het veld van dromen, behavioral sciences, en reinforcement learning erg breed zijn.

    Je zou kunnen inzoomen op experience replay [https://arxiv.org/abs/1712.01275]
    Tijdens experience replay worden ervaringen opnieuw afgespeeld tijdens het leren, wat neurowetenschappers ook zien bij slaap.

    "In hoeverre vervullen dromen een vergelijkbare functie als experience replay in reinforcement learning bij het verbeteren van toekomstig gedrag?"

    Het is ook mogelijk om in te gaan op slaap in zijn geheel als verwerkingsperiode, niet enkel op bewust dromen. Ook dit kan behulpzaam zijn om in de onderzoeksvraag al afgebakend te hebben.

    Hebben jullie al een set deelvragen? Het lijkt me bijvoorbeeld goed om een structuur te hebben die een beetje lijkt op de volgende:

    1. Hoe werkt reinforcement learning?
    2. Welke rol speelt experience replay binnen reinforcement learning?
    3. Wat weten over de functie van dromen volgens neurowetenschappen?
    4. Welke overeenkomsten bestaan tussen experience replay en dromen?
    5. Welke factoren karakteriseren het verschil tussen experience replay en dromen?

    Het lijkt me super mooi als jullie uit de wetenschappelijke literatuur kunnen kijken naar studies met bijvoorbeeld fMRI of EEG beelden tijdens dromen. Zo kan je het neurowetenschappelijke deel linken aan echte hersenactiviteit en til je het onderzoek een beetje uit het zweverige domein, waar men wel eens verloren in raakt bij psychologisch droomonderzoek.

    Richard Sutton en Andrew Barto hebben reinforcement learning ontwikkeld en hebben hierover een boek geschreven. Hierin zit een hoofdstuk genaamd Neuroscience. Het boek heet "Reinforcement Learning: An Introduction". Zo krijg je direct het technische perspectief van de auteurs en hun mening over de neurowetenschappelijke koppeling. [https://web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf]

    David Silver van UCL heeft trouwens videolectures op youtube over reinforcement learning die ook waardevol zijn.

    Matthew Walker is een belangrijke onderzoeker over dromen en heeft hier ook een boek over geschreven, maar heeft ook wetenschappelijke publicaties. Het boek heet "Why We Sleep" en zijn publicaties zijn vaak te vinden in samenwerking met Stickgold. Hierin kan je specifiek zoeken op Sleep replay. Voor zover ik begrijp gebeurt deze replay voornamelijk in de hippocampus en heet hierom ook hippocampal replay. Tijdens de slaap vuurt dezelfde reeks hippocampusneuronen als tijdens de daadwerkelijke ervaring.
    [https://pubmed.ncbi.nlm.nih.gov/?term=hippocampal+replay]

    Laat me graag weten als je er niet helemaal uitkomt met bronnen die niet beschikbaar zijn, dan kan ik via het TU Delft domein (of Erasmus MC domein) nog helpen.

    Aarzel niet als je nog ergens een vraag over hebt!
    Tadjiro Velzel

    Lisa Verbunt said:

    Hoi, voor ons PWS willen wij onderzoeken hoeverre reinforcement learning en dromen op elkaar lijken met als onderzoeksvraag: Welke overeenkomsten en verschillen bestaan er tussen de manier waarop dromen en reinforcement learning eerdere ervaringen verwerken om toekomstig gedrag te beïnvloeden?

    Wat vinden jullie van dit als onderzoeksvraag? Welke bronnen zouden handig zijn om dit te onderzoeken? En voor het reinforcement learning specifiek zijn handig om dit echt te kunnen onderzoeken en/of dit goed te vergelijken met dromen

  • RE: CRISPR-CAS

    Hey annikavanlent,
    Super leuk en relevant onderwerp! Het is een techniek die inderdaad erg veel gebruikt wordt om genetische modificaties uit te voeren, maar vanwege strenge regelgeving romdom CRISPR-Cas is het helaas niet zo makkelijk om een lab te vinden waar jullie terecht kunnen. Het gaat daarom dus niet lukken om hierbij een praktisch deel te doen op de TU Delft.

    Toevallig heb ik zelf laatst ook onderzoek gedaan met behulp van CRISPR-Cas (alleen niet mbt een ziektebeeld). Ik zou dus kunnen navragen of er nog een onderzoeker, PhDer of professor is die ook werkt met CRISPR-Cas en open staat voor een interview. Dan zouden jullie al je vragen over CRISPR-Cas kunnen stellen. Anders heb ik ook eventueel nog wel tijd voor een videogesprek of iets dergeljks. Houd er dan wel rekening mee dat dit hoogstwaarschijnlijk niet telt als een praktisch experiment (vraag dit anders even na bij jullie begeleider).
    Daarnaast zijn ze bij de universiteit in Leiden iets meer gespecialiseerd in (erfelijke) ziektes, je zou daar kunnen navragen of er nog mogelijkheden zijn en of jullie misschien mogen meelopen!

    Ik hoor graag wat jullie hier van vinden!

    Met vriendelijke groet,
    Demi

  • RE: PWS Ruimteafval

    Hoi Teodor en Rein,

    Jullie hebben een erg mooi onderwerp gekozen voor jullie PWS, waar ik zeker bij kan helpen! Ik studeer momenteel lucht en ruimtevaart techniek aan de TU Delft, maar heb deze week wat minder tijd om inhoudelijk om deze vragen in te gaan. Ik stel voor om volgende week te videobellen, zodat we jullie vragen uitgebreid kunnen bespreken.

    Komt volgende week maandag om 12:00 voor jullie uit?

    Groeten,
    Tijn

  • RE: PWS experiment windtunnel

    Beste Stein Hardeman ,

    Dat klinkt erg interessant! Mijn collega die de windtunnel beheert is momenteel met vakantie, hij is vanaf 13 Juli weer aanwezig en helpt jullie dan graag verder!

    Groetjes,
    Liam

  • RE: Muon detector pws relativiteit

    Beste Damian 1 ,

    Gaaf om te horen dat jullie experiment is afgerond in het Feldbergebied! Ik ben erg benieuwd naar jullie resultaten.
    Zelf heb ik kosmische straling (en het vormen van Muonen daardoor) in het verleden bestudeerd en ik spar hier graag verder met jullie over!
    Ik stel voor om een videogesprek in te plannen waar we dit kunnen doen.
    Door de vakantie stel ik voor nu ergens in de week van 17 Augustus voor. Ik hoor graag van jullie of dat uitkomt!

    Groetjes,
    Liam

  • RE: Dracht van kernenergie

    Beste Adam Bauer ,

    Dat klinkt als een interessant onderwerp! Ik help jullie hier graag mee verder.
    Voordat ik rond ga vragen of er plek is voor een experiment zou ik graag van jullie een uitgewerkt meetplan willen hebben, denk hier ook goed na over de veiligheid van het experiment!
    Als er voor nu nog verdere vragen zijn hoor ik ze graag!

    Groetjes,
    Liam van Vugt

  • RE: moleculaire zonne-energieopslag (MOST)

    Beste Haileyvh ,

    Dat klinkt als een interessant onderwerp! Een alternatief op de klassieke photovoltaic technologiën. Ik help jullie graag verder met het onderwerp!
    In het PWS-Lab hebben we een spectrometer beschikbaar die wel gebruikt zou kunnen worden voor een experiment, hiermee kan je bijvoorbeeld kijken naar verschil in de kleur van gereflecteerd licht om zo te achterhalen welke fotonenergieën worden opgenomen.

    Ik hoor graag van jullie wat voor ideeën jullie nu hebben en dan kunnen we daar mee verder.
    Groetjes,
    Liam van Vugt

  • RE: Medische drone vliegtuig VTOL

    Beste Julien ,

    Dat klinkt als een interessant onderwerp! Mijn collega Tijn van Lucht en Ruimtevaart is expert in dit gebied en hij helpt jullie hier graag mee verder. Momenteel is Tijn op vakantie, hij zal vanaf 13 Juli weer aanwezig zijn.

    Groetjes,
    Liam van Vugt

  • RE: Hoe beïnvloeden de veranderingen in de snelheid en bochtradius de optredende G-krachten in motorsport, en hoe werken deze krachten als belasting op het voertuig en de coureur?

    Beste vanpuffelen ,

    Dat klinkt als een interessant onderwerp! Ik help je er graag mee verder.
    Heb je al ideeën wat voor krachten er op een motorcoureur werken? En heb je al nagedacht over wat voor dingen je kan onderzoeken voor je praktisch deel?

    Ik hoor graag van je!
    Groetjes,
    Liam van Vugt

  • RE: Hoe kies ik de juiste NEMA 17-motor voor een elektrische focuser?

    Beste Kinnunen,

    Mijn excuses dat het zo lang heeft geduurd! Ik help je graag verder. Er zijn nog wel een paar dingen voor mij een beetje onduidelijk.

    Waarvoor wordt de focuser gebruikt? Gaat het hier om een telescoop? En van welk formaat?

    Commerciele focussers gebruiken zo pakweg tussen de 20 en 50 N * cm. Vaak hebben deze een verfijnde aansturing, zodat de motor het focusmechanisme niet kapotdraait wanneer er iets in het systeem blokkeert. Hierom zou ik ook niet aanraden om hoger dan 40 N cm te gaan. Lijkt me een prima keuze!

    1. Hoe meer bewegende componenten je in het systeem introduceert, hoe moeilijker het wordt om nauwkeurig te werken. Het is in mijn mening beter om een stepper motor te gebruiken met een driver die microstepping ondersteunt. Zo verplaats je de nauwkeurigheids-eisen van het mechanisch systeem naar het elektronisch systeem. Dat kan veel complexiteit en afstelling besparen, omdat je minder speling hebt.

    Ik kan uit jullie toepassing nog niet lezen of het dan gaat om een direct drive, of een aansturing met een timing belt. Ik denk dat beiden prima voldoen. In het geval dat je kiest voor belt drive, raadt ik aan dat je de motor uitzet wanneer hij niet bezig is (door de enable pin op de driver te gebruiken), zo wordt de motor niet te warm. Wanneer de as te warm wordt, verandert nameliik de aanhechting op de timing belt.

    1. Zowel 1.8° als 0.9° zijn prima. Als je 0.9° gebruikt ben je minder afhankelijk van microstepping, maar dat is niet per se een groot voordeel. Vaak wordt de focusing meer bepaald door de mechanische eigenschappen van de focuser dan door de aandrijving op elektronisch vlak. Op zijn hoogst bereik je met 0.9° een wat meer vloeiende beweging, maar niet per se een meer nauwkeurige.

    2. Moderne drivers geven een veel beperktere resonantie & trilling dan oudere. Ik zou aanraden om een enigszins moderne te gebruiken (TMC2209 of TMC2225 bijvoorbeeld). Een riemaandrijving kan ook een laag trilling dempen vanwege de elasticiteit van de belt. Ook raad ik aan om het systeem niet op hoge spanning te monteren. Als je een hoge spanning op de belt monteert, beweegt het systeem misschien strakker, maar ook met meer trilling. Wanneer je een belt systeem gebruikt, is de angst dat de riem knapt niet de grote uitdaging. De spanning heeft eerder invloed op de hoeveelheid trilling.

    3. Met betrekking tot warmte zou ik vooral denken aan de hoeveelheid stroom die je de motor toekent. De meeste steppers geven een range aan van spanningen en stromen waaronder ze kunnen werken. Je hoeft echt niet meer dan ~40-70% te geven mbt nominale stroom. Het is niet nodig om tegen de bovenkant (of zelfs boven) de range aan stroom te geven. En bovenal, beperk dus de houdstroom (wanneer de motor niet beweegt).

    Samenvattend dus

    NEMA 17, 1,8°, ongeveer 40 N cm.
    Bijvoorbeeld TMC2209-driver met 1/16 of 1/32 microstepping.
    Directe koppeling of GT2-riemaandrijving.
    Houdstroom verlagen wanneer de focuser niet beweegt.

    Ik hoor graag als jullie nog verdere vragen hebben!

    Tadjiro Velzel
    Elektrotechnicus & roboticaonderzoeker