Onze sectie Beveiliging is bijna internet zo groot geworden als AI (en langer dan Programmeren) – en dan hebben we het nog niet eens over enkele beveiligingsproblemen die specifiek zijn voor AI, zoals het uitlekken van modellen. Betekent dit dat AI aan het afkoelen is? Of dat de veiligheid toeneemt? Het is werkelijk onmogelijk dat veiligheidskwesties teveel aandacht krijgen. Het grootste nieuws op het gebied van AI arriveerde op de laatste dag van oktober, en het was helemaal niet technisch: het uitvoeringsbesluit van de regering-Biden over AI. Het zal enige tijd duren om dit te verwerken, en nog langer om te zien of leveranciers de aanbevelingen van het bevel opvolgen. Op zichzelf is het een bewijs van een belangrijke aanhoudende development: het komende jaar zullen veel van de belangrijkste ontwikkelingen op het gebied van AI eerder juridisch dan technisch van aard zijn.

Kunstmatige intelligentie

• In een uitvoerend bevelhebben de VS een reeks regels uitgevaardigd die betrekking hebben op de ontwikkeling van geavanceerde AI-systemen. De regelgeving aanmoedigen de ontwikkeling van watermerken (met title het C2PA-initiatief) om communicatie te authenticeren; ze proberen normen voor testen huge te stellen; en ze roepen agentschappen op om regels te ontwikkelen om consumenten en werknemers te beschermen.
• Nightshade is een ander hulpmiddel dat kunstenaars kunnen gebruiken generatieve AI voorkomen systemen hun werk niet kunnen gebruiken. Het brengt onmerkbare wijzigingen aan in het beeld, waardoor het AI-model het verkeerd interpreteert en onjuiste uitvoer creëert.
• Stanfords Institute for Human-Centered Synthetic Intelligence heeft er een rapport over uitgebracht transparantie voor grote taalmodellen: of de makers van LLM’s essentiële gegevens over hun modellen vrijgeven. Geen enkel mannequin scoort goed, en de transparantie lijkt af te nemen naarmate het veld competitiever wordt.
• Chatbots valse en racistisch bevooroordeelde informatie in stand houden bij de medische zorg. Ontkrachte ideeën over pijntolerantie, nierfunctie en andere factoren worden opgenomen in trainingsgegevens, waardoor modellen deze ideeën herhalen.
• Een AI-stuklijst (AIBOM) zou doc alle materialen die nodig zijn voor het creëren van een AI-systeem. Deze documentatie zou essentieel zijn voor het bouwen van AI die in staat is om aan de regelgeving te voldoen.
• GPT-4 doet Stephenson: GPT simuleert de Geïllustreerde primer voor jonge dames (van Het diamanttijdperk). Met illustraties van DALL-E.
• Stap-terug-prompts is een andere techniek waarbij u een vraag stelt, maar voordat u antwoord krijgt, vraagt ​​u de LLM om achtergrondinformatie te verstrekken die hem kan helpen de vraag te beantwoorden.
• Een snelle injectie is nog enger geworden. GPT-4V, waarmee gebruikers afbeeldingen in gesprekken kunnen opnemen, is dat wel kwetsbaar voor snelle injectie by way of de beelden zelf; tekst in de afbeeldingen kan worden geïnterpreteerd als aanwijzingen. Er kunnen zelfs kwaadaardige aanwijzingen zijn verborgen in afbeeldingen.
• Google sluit zich aan bij Microsoft en Adobeen anderen bij het vrijwaren van gebruikers van hun AI tegen rechtszaken over auteursrechten.
• Mannequin leeching is een nieuwe aanval op grote taalmodellen. Bij mannequin leeching kunnen aanvallers met een zorgvuldig samengestelde reeks aanwijzingen een kleiner mannequin genereren dat zich op dezelfde manier gedraagt. Het kleinere mannequin kan vervolgens worden gebruikt om andere aanvallen op het originele mannequin te construeren.
• Open source-taalmodellen zijn in opkomst. Replitcode v1.5 3B is nu beschikbaar op Knuffelgezicht. Dit mannequin is ontworpen voor het voltooien van code en is getraind in code met een toegestane licentie, zodat er minimale juridische problemen optreden.
• Antropisch komt naar voren te hebben gemaakt aanzienlijke vooruitgang bij het interpreteerbaar maken van grote taalmodellen. De sleutel is het begrijpen van het gedrag van groepen neuronen, die zij ‘kenmerken’ noemen, in plaats van individuele neuronen.
• Mistral 7B is een open supply groottaalmodel met indrukwekkende prestaties. Het is onafhankelijk ontwikkeld. (Het heeft geen betrekking op LLaMA.) Er wordt beweerd dat de prestaties beter zijn dan modellen van vergelijkbare grootte.
• AMD kan dat misschien wel uitdaging NVIDIA’s dominantie op de GPU-markt. De dominantie van NVIDIA is afhankelijk van de veelgebruikte CUDA-taal voor het programmeren van GPU’s. AMD heeft een versie van PyTorch dat is afgestemd voor gebruik op AMD GPU’s, waardoor de noodzaak voor GPU-programmering op laag niveau wordt geëlimineerd.
• Grotere trainingsdatasets leiden tot meer bevooroordeeld en haatdragend uitgangniet minder.
• LangStream (niet gerelateerd aan LangChain) is een open supply platform voor het bouwen van streaming-applicaties die generatieve AI gebruiken.
• GPT-4 en Claude zijn nuttig gebleken bij het vertalen van 16e-eeuwse demonologische teksten geschreven in middeleeuws Latijn. Claude’s 100K-contextvenster lijkt een grote hulp te zijn. (En Middeleeuws Latijn is heel anders dan het Latijn dat je waarschijnlijk niet op college hebt geleerd.)
• Een kwetsbaarheid genaamd ShellTorch stelt aanvallers in staat toegang te krijgen tot AI-servers met behulp van TorchServe, een instrument voor het implementeren en schalen van AI-modellen met behulp van PyTorch.
• Reservoircomputers is een ander soort neuraal netwerk dat veelbelovend is voor het begrijpen van chaotische systemen.
• Misschien niet verrassend, taalmodellen kunnen uitstekend werk leveren met verliesvrije compressie beter dan standaarden als FLAC. (Dit betekent niet dat taalmodellen een gecomprimeerde kopie van het internet opslaan.)
• Een kunstenaar maakt de zaak dat het trainen van generatieve modellen om niet te ‘hallucineren’ ze minder interessant en minder bruikbaar heeft gemaakt voor creatieve toepassingen.
• Kun je eieren smelten? Quora heeft een functie toegevoegd die antwoorden genereert met behulp van een ouder GPT-model. Dit mannequin antwoordde ‘ja’ en agressieve search engine optimization slaagde erin om dat ‘ja’ bovenaan een Google-zoekopdracht te krijgen.

Programmering

• Harpoen is een instrument zonder code, slepen en neerzetten voor de implementatie van Kubernetes.
• Kakelen is een nieuw gereedschap voor de Rust-gereedschapsketen. Het controleert toegangscontrolelijsten en wordt gebruikt om aanvallen op de softwaretoevoerketen moeilijker te maken.
• Correctheid SLO’s (Service-Degree Goals) zijn een manier om de statistische eigenschappen van de uitvoer van een programma te specificeren als deze right werkt. Ze kunnen belangrijk worden naarmate AI in meer toepassingen wordt geïntegreerd.
• Cilium is een hulpmiddel voor cloud-native netwerkobservatie. Het biedt een laag bovenop eBPF die beveiligings- en observatieproblemen voor Docker- en Kubernetes-workloads oplost.
• De zes pijlers van platformtechniek is een goed start voor elke organisatie die serieus bezig is met ontwikkelaarservaring. De pijlers zijn beveiliging, pijplijnen, voorzieningen, connectiviteit, orkestratie en waarneembaarheid. Aan elk daarvan is één artikel in deze serie gewijd.
• Adam Jacob, maker van Chef Software program, is erop uit opnieuw bedenken DevOps. Systeeminitiatief is een open supply instrument voor het beheren van infrastructuur waarbij de nadruk ligt op samenwerking tussen engineers en operationeel personeel – iets dat altijd het doel van DevOps was, maar zelden werd bereikt.
• Unreal engine, een game-ontwikkelingsplatform dat free of charge was voor gebruikers buiten de game-industrie, heeft nu abonnementskosten. Het blijft free of charge voor studenten en docenten.
• CRDT’s (conflict-free replicated information varieties) zijn een gegevensstructuur die is ontworpen voor het oplossen van gelijktijdige wijzigingen in samenwerkingstoepassingen (zoals Google Docs). Hier is een goede interactieve zelfstudie en een mission: een collaboratieve pixeleditor bouwen.
• Omgeving is een puur webgebaseerd platform voor multiplayer-games, gebouwd met Wasm, WebGPU en Rust. Directe implementatie, geen servers.
• Google heeft het open supply gemaakt grafiekmijnbibliotheek. Grafieken worden steeds belangrijker in datamining en machine studying.
• Microsoft heeft een binaire construct uitgebracht van OpenJDK 21, vermoedelijk geoptimaliseerd voor Azure. Tinten van omarmen en uitbreiden? Dat lijkt niet te gebeuren.
• Polystores kan veel verschillende soorten gegevens opslaan (relationele gegevens, vectorgegevens, ongestructureerde gegevens, grafiekgegevens) in één enkel gegevensbeheersysteem.

Beveiliging

• De EFF heeft een uitstekende introductie geplaatst toegangscodeswat de volgende stap is voorbij wachtwoorden in gebruikersauthenticatie.
• Microsoft is een early access-programma gestart voor Beveiliging copiloot, een chatbot gebaseerd op GPT-4 die is afgestemd om vragen over computerbeveiliging te beantwoorden. Het kan ook gegevens van beveiligingsincidenten samenvatten, gegevens van nieuwe aanvallen analyseren en reacties voorstellen.
• Google is van plan om te testen IP-bescherming in Chroom. IP-bescherming verbergt de IP-adressen van gebruikers door verkeer by way of proxy’s naar of van specifieke domeinen te leiden. Het verbergen van adressen voorkomt een aantal veelvoorkomende aanvallen, waaronder cross-site scripting.
• Hoewel de European Cyber ​​Resilience Act (CRA) veel goede ideeën heeft over het veiliger maken van software program, stelt zij dat wel aansprakelijkheid voor softwarefouten over open source-ontwikkelaars en bedrijven die open source-ontwikkeling financieren.
• Een nieuwe aanval op het geheugen, genaamd RijDrukkan bitflips veroorzaken, zelfs in het DDR4-geheugen, dat al bescherming biedt tegen de RowHammer-aanval.
• De gedistribueerde Denial of Service-aanvallen (DDOS) van augustus en september tegen Cloudflare en Google maakten gebruik van een nieuw ontdekte kwetsbaarheid in HTTP/2. Aanvallers openen veel streams per verzoek, waardoor een extreem hoog gebruik ontstaat met relatief weinig verbindingen.
• Mandiant heeft gezorgd voor een fascinerende analyse van het speelboek van de Russische militaire inlichtingendienst (GRU) in Oekraïne.
• Mozilla en Fastly ontwikkelen OHTTP (Onbewuste HTTP), een opvolger van HTTP die is ontworpen voor privateness. OHTTP scheidt informatie over de aanvrager van het verzoek zelf, zodat geen enkele partij ooit over beide stukjes informatie beschikt.
• Een nieuw ontdekte achterdeur naar WordPress stelt aanvallers in staat web sites over te nemen. De malware is vermomd als een WordPress-plug-in die legitiem lijkt.
• Hoewel de normen zich nog steeds ontwikkelen, gedecentraliseerde identiteit en verifieerbare inloggegevens beginnen buiten de cryptocurrency-wereld te verschijnen. Wanneer deze technologieën worden toegepast, zullen ze zowel de privateness als de veiligheid aanzienlijk verbeteren.
• Om het vermogen om ongewenste en schadelijke e-mail te detecteren te verbeteren, zal Gmail dat doen vereisen afzenders van bulk-e-mail (meer dan 5.000 berichten per dag) om SPF-, DKIM- en DMARC-authenticatierecords in DNS te implementeren, anders lopen ze het risico dat hun berichten als spam worden gemarkeerd.
• Genetische gegevens zijn gestolen van 23andMe. De aanval was vrij eenvoudig: de aanvallers gebruikten alleen gebruikersnamen en wachtwoorden die in omloop waren en hergebruikt waren.
• De tijd die nodig is om een ransomware De aanvalstijd is teruggebracht van tien naar twee dagen, en het komt steeds vaker voor dat slachtoffers worden getroffen door een tweede aanval op systemen die al zijn gecompromitteerd.

Netwerken

• Toxicoproxy is een hulpmiddel voor chaos-netwerktechniek. Het is een proxyserver die vele soorten netwerkmisgedrag simuleert.
• De netwerkneutraliteit neemt weer toe: De voorzitter van de FCC heeft voorgesteld terug te keren naar de netwerkneutraliteitsregels uit het Obama-tijdperk, waarin luchtvaartmaatschappijen geen prioriteit konden geven aan het verkeer van sommige gebruikers in ruil voor betaling. Wetten in sommige staten, zoals Californië, hebben het stellen van verkeersprioriteit grotendeels verhinderd, maar een terugkeer naar netwerkneutraliteit zou voor een uniform regelgevingskader zorgen.
• De meeste VPN’s (zelfs VPN’s die geen verkeer registreren) volgen de gebruikersactiviteit. Obscura is een nieuwe VPN die is ontworpen voor privateness en die geen activiteit kan volgen.

Biologie

• De Amerikaanse Fish & Wildlife Service creëert een bibliotheek met biodiversiteit. Het doel van de bibliotheek is het bewaren van weefselmonsters van alle bedreigde diersoorten in de VS. Het DNA van de dieren zal worden gesequenced en geüpload naar GenBankeen verzameling van alle openbaar beschikbare DNA-sequenties.

Kwantumcomputers

• Atom Computing beweert een Kwantumcomputer van 1.000 qubit. Hoewel dit nog steeds te klein is om echt werk te doen, is het de grootste kwantumcomputer die we kennen; het lijkt erop dat het kan worden geschaald naar (enigszins) grotere formaten; en er is geen excessive kou voor nodig.
• Twee onderzoeksteams hebben dat gedaan gemaakt voortgang op het gebied van kwantumfoutcorrectie. De laatste tijd hebben we verschillende groepen gezien die vooruitgang melden op het gebied van QEC, wat essentieel is om kwantumcomputers praktisch te maken. Is dit binnenkort een opgelost probleem?

Robotica

• De titel van dit artikel is alles wat je nodig hebt: Boston Dynamics veranderde zijn robothond in een wandelgids met behulp van ChatGPT. Het kan een rondleiding geven door de faciliteiten van Boston Dynamics, waarbij het vragen beantwoordt en gegevens van de digicam’s gebruikt om further context te bieden. En het heeft een Brits accent.
• Een andere autonome robothond kan acties plannen en uitvoeren in complexe omgevingen. Hoewel zijn behendigheid indrukwekkend is, onderscheidt hij zich door het vermogen om acties te plannen om een ​​doel te bereiken, rekening houdend met de objecten die hij ziet.
• A tetraëdrische robotic kan zijn vorm en grootte veranderen, verschillende loopstijlen gebruiken en zichzelf aanpassen aan verschillende taken.

Leer sneller. Graaf dieper. Zie verder.